O Governo Sabe Que a AGI Está Chegando (E Não Estamos Prontos)

Um novo episódio de The Ezra Klein Show acabou de causar grandes repercussões no mundo da IA.

Intitulado “O Governo Sabe Que a AGI Está Chegando”, a entrevista apresenta Ben Buchanan, um ex-consultor especial em inteligência artificial na Casa Branca de Biden.

De acordo com Buchanan, o governo está se preparando ativamente para a inteligência geral artificial (AGI)—sistemas que podem lidar com praticamente qualquer tarefa cognitiva que um humano consiga fazer—e ele acredita que isso pode acontecer em apenas alguns anos, provavelmente durante o segundo mandato de Donald Trump.

Essa revelação deixou o apresentador Ezra Klein surpreso. Klein afirma que, nos últimos meses, tem ouvido a mesma mensagem de insiders em laboratórios de IA e agências governamentais:

A AGI está chegando mais rápido do que se esperava.

Klein diz:

“Nos últimos meses, tive uma experiência estranha: pessoa após pessoa — de laboratórios de inteligência artificial, do governo — tem vindo até mim dizendo: Está prestes a acontecer. Estamos prestes a alcançar a inteligência geral artificial.”

Contudo, ele conclui que quase ninguém está preparado para o que isso realmente significa na prática.

Para ver quão despreparados podemos estar, conversei com o fundador e CEO do Marketing AI Institute, Paul Roetzer, no Episódio 139 de The Artificial Intelligence Show.

Por Que Isso Importa

Anteriormente, diz Klein, especialistas acreditavam que a AGI estaria a 5-15 anos de distância. Agora, parece que ela está chegando nos próximos anos. Isso não é exagero. Não é uma tecnologia passageira. Trata-se da avaliação sóbria de muitas coortes diferentes de insiders nos setores público e privado.

“As pessoas que estão por dentro estão tentando, com todas as forças, fazer com que todos os outros prestem atenção,” diz Roetzer. “Mas, como Klein ilumina logo de cara: Ninguém tem um plano para isso.”

Isso porque desta vez é diferente. Buchanan, que tem um profundo histórico em cibersegurança, observa que toda outra tecnologia revolucionária no último século—internet, microprocessador, GPS, tecnologia espacial—recebeu um forte financiamento do Departamento de Defesa e envolvimento desde o início.

Não é o caso da IA moderna.

Os sistemas de IA generativa de hoje pegaram a maioria dos envolvidos, incluindo o governo dos EUA, de surpresa. Eles foram desenvolvidos sem nenhum envolvimento governamental. Os últimos modelos de fronteira não saíram da DARPA (Agência de Projetos de Pesquisa Avançada de Defesa) ou do departamento de defesa. O governo não teve um lugar real à mesa quando foram criados.

Como resultado, o governo está se esforçando para entender e moldar uma tecnologia que avança rapidamente sem eles.

“Eles basicamente têm jogado catch up,” diz Roetzer.

Medos de Cibersegurança e uma Corrida Contra a China

Com base na entrevista, o governo dos EUA pensa sobre IA antes de tudo, como uma questão de segurança nacional e domínio militar. Hoje, isso significa garantir que os EUA permaneçam competitivos contra a China na corrida armamentista de IA. Se sistemas semelhantes à AGI puderem analisar dados ou invadir redes de adversários em grande escala, quem possuir essa tecnologia terá uma enorme vantagem cibernética ofensiva (e defensiva).

E não se trata apenas de escrever malware melhor ou encontrar mais exploits. Uma vez que um adversário coleta montanhas de dados, uma IA avançada pode analisar isso instantaneamente, trazendo à tona informações críticas de uma forma que nenhuma equipe humana poderia igualar.

Buchanan aborda esse assunto em detalhes, essencialmente afirmando que os EUA não querem que a China alcance a AGI primeiro.

Mas ironicamente, a maior vulnerabilidade pode estar nos laboratórios que constroem a AGI. Hackers, estrangeiros ou não, têm um enorme incentivo para roubar pesos de modelos de IA avançados ou detalhes sobre como novos modelos de fronteira estão sendo construídos. E até mesmo as melhores medidas de segurança podem lutar contra um ator estatal determinado.

Dadas essas preocupações muito reais, é possível que partes dentro do governo dos EUA tenham considerado a nacionalização de laboratórios de IA.

A entrevista até menciona uma afirmação feita pelo capitalista de risco Marc Andreessen, que disse ter sido informado por um alto funcionário de Biden que o desenvolvimento de IA seria restrito a apenas duas ou três grandes empresas—em parte por razões de segurança, em parte por segurança. (Na verdade, Andreessen afirma que esse incidente é o motivo pelo qual ele apoiou Trump durante a eleição.)

Isso realmente aconteceu? Quando questionado sobre isso, Buchanan evita dar uma resposta direta.

Mas a lógica é inegável se você é um grande governo tentando correr atrás, diz Roetzer.

“Você começa a entender por que a nacionalização dos laboratórios pode realmente ser uma estratégia que está sendo explorada se eles forem convencidos de que precisam chegar lá primeiro, e esses modelos se tornarão cada vez mais poderosos.”

Uma Ameaça Maior Para os Empregos Do Que Já Vimos?

A maior preocupação pessoal de Ezra Klein na entrevista é o impacto sobre os empregos—especialmente os papéis “cognitivamente exigentes” que giram em torno do trabalho baseado em conhecimento. Pense em codificação, marketing, pesquisa. Ele enfatiza que se a IA puder lidar de repente com essas tarefas melhor, mais rápido e mais barato, a disrupção no mercado de trabalho pode eclipsar tudo o que já vimos antes.

Mas, ironicamente, a principal lente do governo é militar e de inteligência. Isso significa que o deslocamento da mão de obra é secundário. Buchanan reconhece isso. Neste momento, Washington está mais focado em impedir um cenário no qual um estado adversário obtenha uma vantagem.

Esse é um problema. Porque Klein diz que está muito claro que não o suficiente de pessoas no governo ou no setor privado estão pensando sobre isso, até pressionando Buchanan em um ponto:

“Eu prometo que os economistas do trabalho não sabem o que fazer sobre a IA. Você foi o principal conselheiro para IA. Você estava no centro nervoso das informações do governo sobre o que está por vir. Se isso é metade do que você parece pensar, será a coisa mais disruptiva a atingir os mercados de trabalho, dada a rapidez com que chegará.”

[…]

“Você deve ter ouvido alguém pensar sobre isso. Vocês devem ter conversado sobre isso.”

Infelizmente, Buchanan não tem muitas respostas concretas sobre o que o governo pensa que acontecerá com o deslocamento da força de trabalho. E, enquanto Washington vacila, os laboratórios de IA estão seguindo em frente.

Na época em que a entrevista foi ao ar, The Information relatou que executivos da OpenAI disseram a alguns investidores que planejam vender diferentes níveis de agentes de IA que podem realizar tarefas especializadas de forma autônoma que trabalhadores do conhecimento podem realizar. Estes incluem:

• Agentes de baixo custo com preço em torno de $2.000/mês (destinados a trabalhadores do conhecimento de alta renda).
• Agentes de médio porte com preço em torno de $10.000/mês (projetados para desenvolvimento de software complexo).
• Agentes de alto nível “com nível de doutorado” que podem custar $20.000/mês (destinados a trabalhos de pesquisa avançada).

Esses custos podem parecer altos em comparação com os custos de licença atuais para o ChatGPT.

Mas se você fizer as contas, diz Roetzer, é fácil justificar esse custo para certos papéis—especialmente se a IA puder realizar tarefas que atualmente exigem múltiplos funcionários em tempo integral. Mesmo a $20.000 por mês, onde os agentes de IA estariam lidando com o trabalho de pessoas que ganham de $200.000 a $500.000 por ano (como analistas financeiros, advogados, pesquisadores de IA, e outros). Se um agente pode trabalhar 24 horas por dia ou lidar com o trabalho de múltiplos profissionais, o retorno sobre o investimento se torna claro.

Agora, publicamente, poucas empresas de IA dizem abertamente que estão construindo tecnologia para substituir trabalhadores do conhecimento. Em vez disso, falam sobre “augmentar” ou “aprimorar” pessoas em funções existentes. Mas o discurso de marketing não mascara completamente para onde isso está indo.

Roetzer apontou para Endex, uma startup de IA impulsionada pela OpenAI que se promove como um analista financeiro autônomo, declarando que é como ter uma força de trabalho de IA funcionando 24/7. Isso é muito próximo de descrever um futuro onde o trabalho do conhecimento é gerenciado por máquinas, dia e noite, sem pausas, benefícios ou folgas remuneradas.

Então, o que devemos fazer com tudo isso?

Bem, esse é o problema.

No final, a entrevista de Klein nos deixa com mais perguntas do que respostas.

E isso, de certa forma, é uma resposta:

O governo sabe que a AGI está chegando. Mas está se esforçando para descobrir os próximos passos. E não há entidades suficientes na sociedade ocupadas em preencher as lacunas sobre o que acontece a seguir em questão de AGI e deslocamento da mão de obra.