Eric Schmidt argumenta contra um 'Projeto Manhattan para AGI'

Em um artigo de política publicado na quarta-feira, o ex-CEO do Google Eric Schmidt, o CEO da Scale AI Alexandr Wang e o Diretor do Centro de Segurança de IA Dan Hendrycks afirmaram que os EUA não deveriam buscar um empurrão à moda do Projeto Manhattan para desenvolver sistemas de IA com inteligência “super-humana”, também conhecida como AGI.

O documento, intitulado “Estratégia de Superinteligência,” afirma que uma tentativa agressiva dos EUA para controlar exclusivamente sistemas de IA superinteligentes poderia provocar uma retaliação feroz da China, potencialmente na forma de um ciberataque, o que poderia desestabilizar as relações internacionais.

“Um [Projeto Manhattan para AGI] assume que os rivais irão aquiescer a um desequilíbrio duradouro ou omnicídio em vez de agir para preveni-lo,” escrevem os co-autores. “O que começa como uma busca por uma superarma e controle global corre o risco de provocar contramedidas hostis e aumentar tensões, minando assim a estabilidade que a estratégia promete assegurar.”

Co-autorado por três figuras altamente influentes na indústria de IA dos EUA, o artigo surge apenas alguns meses depois que uma comissão do congresso dos EUA propôs um esforço à moda do Projeto Manhattan para financiar o desenvolvimento de AGI, modelado após o programa da bomba atômica americana na década de 1940. O Secretário de Energia dos EUA, Chris Wright, disse recentemente que os EUA estão no “início de um novo Projeto Manhattan” em IA, enquanto estava em frente a um site de supercomputadores ao lado do cofundador da OpenAI, Greg Brockman.

O artigo da Estratégia de Superinteligência desafia a ideia, defendida por vários líderes de política e indústria americanos nos últimos meses, de que um programa apoiado pelo governo em busca de AGI é a melhor maneira de competir com a China.

Na opinião de Schmidt, Wang e Hendrycks, os EUA estão em uma espécie de impasse de AGI não muito diferente da destruição mútua assegurada. Assim como as potências globais não buscam monopólios sobre armas nucleares — o que poderia desencadear um ataque preventivo de um adversário — Schmidt e seus co-autores argumentam que os EUA devem ser cautelosos quanto à corrida para dominar sistemas de IA extremamente poderosos.

Embora comparar sistemas de IA a armas nucleares possa parecer extremo, líderes mundiais já consideram a IA uma vantagem militar de topo. O Pentágono já afirma que a IA está ajudando a acelerar a cadeia de eliminação militar.

Schmidt et al. introduzem um conceito que chamam de Malfuncionamento de IA Asegurada Mútua (MAIM), no qual os governos poderiam desativar proativamente projetos de IA ameaçadores em vez de esperar que adversários armem a AGI.

Schmidt, Wang e Hendrycks propõem que os EUA mudem seu foco de “ganhar a corrida para a superinteligência” para desenvolver métodos que desestimulem outros países a criar IA superinteligente. Os co-autores argumentam que o governo deve “expandir [seu] arsenal de ciberataques para desativar projetos de IA ameaçadores” controlados por outras nações, além de limitar o acesso de adversários a chips avançados de IA e modelos de código aberto.

Os co-autores identificam uma dicotomia que se desenrola no mundo da política de IA. Existem os “pessimistas”, que acreditam que resultados catastróficos do desenvolvimento de IA são uma conclusão inevitável e defendem que os países desacelerem o progresso da IA. Do outro lado, estão os “ostriches”, que acreditam que as nações devem acelerar o desenvolvimento da IA e simplesmente esperar que tudo dê certo.

O artigo propõe um terceiro caminho: uma abordagem medida para o desenvolvimento de AGI que prioriza estratégias defensivas.

Essa estratégia é particularmente notável vindo de Schmidt, que anteriormente foi vocal sobre a necessidade de os EUA competirem agressivamente com a China no desenvolvimento de sistemas avançados de IA. Apenas alguns meses atrás, Schmidt publicou um artigo opinativo dizendo que a DeepSeek marcava um ponto de virada na corrida de IA da América com a China.

A administração Trump parece decidida a avançar no desenvolvimento de IA da América. No entanto, como os co-autores observam, as decisões da América em torno da AGI não existem em um vácuo.

Enquanto o mundo observa a América ultrapassar os limites da IA, Schmidt e seus co-autores sugerem que pode ser mais sábio adotar uma abordagem defensiva.