Ex-presidente do Y Combinator, Geoff Ralston, lança novo fundo de 'segurança' em IA

Geoff Ralston, conhecido na comunidade de startups por seus anos na Y Combinator, está de volta ao mundo dos investimentos formais, ele anunciou na quinta-feira.

Seu novo fundo se chama Safe Artificial Intelligence Fund, ou SAIF, que é tanto uma explicação de sua tese quanto um trocadilho.

Ralston está especificamente em busca de startups que “melhorem a segurança, a proteção e a implantação responsável da IA”, como descreve o site de seu fundo. Ele pretende investir cheques de $100.000 como SAFE, “trocadilho pretendido,” ele diz, com um limite de $10 milhões. Um SAFE é, claro, a ferramenta de investimento pré-seed de investir agora/preço depois, aprimorada pela Y Combinator (significa acordo simples para futura equidade).

Embora a maioria dos VCs hoje esteja buscando investir em startups de IA, a abordagem de Ralston é um pouco mais focada na ideia de IA segura, mesmo admitindo que o conceito é um tanto amplo.

“A grande maioria dos projetos de IA no mundo hoje está usando a tecnologia para resolver problemas, criar eficiências ou novas capacidades. Eles não são necessariamente intrinsecamente inseguros, mas a segurança não é sua preocupação primária,” Ralston afirma ao TechCrunch. “Pretendo financiar startups cujo objetivo principal seja a IA segura — como eu a defini (muito amplamente).”

Essa lista inclui startups focadas em melhorar a segurança da IA, como aquelas que clarificam o processo de tomada de decisão de uma IA ou benchmark de segurança da IA. Inclui produtos que protegem a propriedade intelectual, que garantem que uma IA esteja em conformidade com requisitos legais, combatem a desinformação e detectam ataques gerados por IA. Ele também quer investir em ferramentas de IA funcionais com segurança incorporada, como melhores ferramentas de previsão de IA e ferramentas de negociação habilitadas por IA que não revelam segredos corporativos a terceiros.

Isso pode soar como uma lista de startups de IA que muitos VCs estão perseguindo, mas há áreas que Ralston diz que não apoiará. Um exemplo é armamentos totalmente autônomos.

“Certamente existem aplicações de IA que seriam (ou serão) inseguras: usando a tecnologia para criar armas biológicas, para gerenciar armamentos convencionais sem um humano no loop, etc.”, ele explicou.

Na verdade, ele gostaria de financiar “sistemas de segurança de armas” que pudessem detectar ou prevenir ataques de armas de IA.

Esse é um ponto de vista contrariano interessante em relação a muitos dos fundadores e VCs de tecnologia de defesa atuais. Como o TechCrunch relatou anteriormente, algumas das pessoas que estão construindo armas de IA têm cada vez mais flutuado a ideia de que tais armas funcionariam melhor sem um humano.

Ainda assim, tudo relacionado à IA é um campo lotado para os VCs atualmente. É aí que Ralston espera que suas conexões na YC possam lhe dar uma vantagem. Ralston deixou a YC em 2022, após três anos como presidente (sucedido por Garry Tan) e mais de uma década como consultor.

Ralston planeja oferecer mentoria do tipo que fez no renomado acelerador de startups e prometeu orientá-los sobre como se inscrever na YC. E ele está oferecendo ajudá-los a acessar sua considerável rede de investidores.

Ralston se recusou a dizer qual é o tamanho deste fundo, quantas startups ele pretende apoiar ou quem são seus investidores limitados.