Não Será um Século Fácil

A OpenAI acaba de agitar o mundo da IA com o o3, seu mais novo modelo que muitos acreditam ser um grande avanço em direção à inteligência geral artificial (AGI)—e possivelmente até mesmo à superinteligência artificial (ASI).

À medida que as implicações do o3 começam a se instalar, dois membros da equipe da OpenAI publicaram reflexões ousadas e provocativas sobre o que tudo isso significa para a política, governança e o futuro da humanidade.

Primeiro, Yo Shavit, Líder de Política de Segurança de IA da OpenAI, destacou por que a chegada de uma IA poderosa (ou ASI) pode revolucionar completamente a economia global.

Em seguida, Joshua Achiam, Chefe de Alinhamento de Missão da OpenAI, escreveu um thread apaixonado sobre como o mundo está despreparado para as mudanças que podem ocorrer mais cedo do que esperamos.

No Episódio 129 do The Artificial Intelligence Show, eu e o fundador e CEO do Marketing AI Institute, Paul Roetzer, analisamos os principais pontos que eles levantaram—e por que isso é importante neste momento.

5 Grandes Observações de Política sobre AGI

Em um post no X, Yo Shavit deixa claro que a sociedade precisa começar a planejar algumas contingências se a AGI (e ASI) chegar.

1. Todos Provavelmente Terão Acesso à ASI

Se realmente desenvolvermos superinteligência artificial, Shavit acredita que não será apenas uma única entidade a deter esse poder. Em vez disso, o mundo inteiro acabará tendo alguma versão disso.

2. A Taxa de Imposto Corporativo se Torna “Muito, Muito Importante”

Se os agentes de IA realizarem a maior parte do trabalho e forem de propriedade de empresas, essas empresas poderiam dominar a economia. Shavit sugere que quem se beneficia—e quanto—se torna uma questão política enorme.

3. A IA Não Deve Possuir Ativos

Shavit argumenta que permitir que a IA possua ativos do mundo real apresenta riscos enormes. Se a IA própria deter propriedades, capital ou riqueza, pode contornar totalmente o controle humano.

4. As Leis sobre Computação Serão Muito Importantes

Se uma IA se tornar descontrolada, você não pode “prendê-la” da mesma forma que faria com um criminoso humano. Isso significa que os recursos computacionais por trás da IA se tornam uma rede de segurança crítica: cortar o acesso ao poder de processamento pode ser a única maneira de realmente parar os maus atores.

5. O Alinhamento Técnico da AGI é Tudo

À medida que a IA poderosa assume mais e mais tarefas fora da supervisão humana, o alinhamento—fazer a IA trabalhar a nosso favor, e não contra nós—torna-se a prioridade absoluta.

O Século “Turbulento” que Está por Vir

Logo após Shavit publicar, Joshua Achiam, Chefe de Alinhamento de Missão da OpenAI, escreveu seu próprio thread. Ele compartilhou uma sensação marcante de que o mundo não está totalmente compreendendo como a IA transformará radicalmente nossas suposições sobre:

• Política nacional e internacional
• Economia e eficiência de mercado
• Saúde humana, expectativa de vida e autonomia corporal
• Normas sociais, conexões emocionais e a natureza do trabalho

Nas palavras de Achiam:

“É extremamente estranho para mim que mais pessoas não estão cientes, ou interessadas, ou mesmo acreditam totalmente nas mudanças que provavelmente começarão nesta década e continuarão ao longo do século.”

Ele descreve uma cascata de mudanças que começará com uma alteração nos preços de bens e serviços—e forçará uma reavaliação de indústrias inteiras, estratégias de negócios e até mesmo questões mais profundas sobre o propósito humano, concluindo:

“Não será um século fácil. Será um século turbulento. Se tivermos sucesso, a alegria, a realização e a prosperidade serão inimagináveis. Poderemos falhar se não abordarmos o desafio de frente.”

Por Que Tudo Isso Importa Agora

Tanto Shavit quanto Achiam claramente percebem uma urgência que a maioria das pessoas ainda não sente.

“Eu simplesmente não entendo por que mais pessoas não têm um senso de urgência para resolver isso,” diz Roetzer. “Por que não estamos sendo mais urgentes em nossa busca pelo que os futuros caminhos podem parecer?”

Shavit e Achiam não estão dizendo essas coisas como um sonho de ficção científica distante. Ambos viram o o3—e tudo que está atrás de portas fechadas—e acreditam que a AGI ou ASI está no horizonte.

”Precisamos que as pessoas estejam atentas e comecem a agir,” diz Roetzer. “Acho que ainda temos tempo. Creio que temos tempo para resolver isso—para afetar um resultado positivo em nossos negócios, nossas indústrias, nossas carreiras e em toda a sociedade.”

Isso significa você—seja você um líder empresarial, um formulador de políticas, um tecnólogo, um educador ou um organizador comunitário—precisa trazer sua perspectiva à mesa e explorar as possibilidades e riscos da IA avançada.

Mas isso precisa acontecer agora, diz Roetzer.

“O tempo está passando mais rápido. Precisamos agir este ano e precisamos começar.”