Especialista Sênior em Segurança de IA Soa Alerta

Uma saída de alto perfil da OpenAI levantou novas preocupações sobre a prontidão da indústria de IA para a inteligência geral artificial (AGI)—e o alerta vem de alguém que realmente entende do assunto.

Miles Brundage, Conselheiro Sênior da OpenAI para Prontidão de AGI, deixou a empresa após seis anos para se dedicar à pesquisa independente em políticas de IA. Sua mensagem de despedida? Em relação à prontidão para AGI:

“Em resumo, nem a OpenAI nem qualquer outro laboratório de ponta estão prontos, e o mundo também não está pronto.”

O que isso significa para o resto de nós? Conversei com o fundador e CEO do Marketing AI Institute, Paul Roetzer, no episódio 121 do The Artificial Intelligence Show para descobrir.

Por Que Esta Saída é Importante

Brundage não era um empregado comum—ele foi fundamental na implementação de práticas de segurança essenciais na OpenAI, incluindo:

• O programa de testes externos
• Implementação de cartões de sistema
• Iniciativas de prontidão para AGI

Em uma publicação detalhando sua saída, Brundage comentou que vários fatores influenciaram sua decisão.

O primeiro foi as restrições na publicação de pesquisas em grandes laboratórios de IA. (Lugares como a OpenAI enfrentam tanta análise e incentivos concorrentes internamente que é difícil publicar pesquisas.)

Ele também estava preocupado que, se continuasse empregado em um grande laboratório de IA, não conseguiria manter a imparcialidade nas discussões políticas ou funcionar como uma voz independente na indústria.

Esses fatores estão todos interligados. Eles decorrem de sua preocupação geral de que a IA cada vez mais avançada exige que todos os envolvidos em seu desenvolvimento assumam um papel mais ativo na orientação da tecnologia.

“O benefício da AGI para toda a humanidade não é automático e requer escolhas deliberadas a serem feitas por tomadores de decisão e governos, organizações sem fins lucrativos, sociedade civil e indústria,” escreveu Brundage.

O Que Devemos Fazer a Respeito?

A saída de Brundage destaca o maior problema em como estamos nos preparando para uma IA mais avançada:

Uma falta de urgência.

“Não há discussão suficiente sobre os tópicos difíceis porque não acho que as pessoas realmente compreendam o quão urgente isso precisa ser,” diz Roetzer.

“Acho que as pessoas apenas assumem que isso vai levar 3 ou 5 ou 10 anos e ‘vamos descobrir’ ou ‘alguém vai descobrir’, e não é assim que isso vai funcionar.”

Ele aponta que mesmo as pessoas mais inteligentes em IA, como Sam Altman, estão apenas adivinhando quais serão os impactos de uma IA hiperpoderosa—ou mesmo da AGI—nos negócios e na sociedade.

“Não podemos simplesmente assumir que as empresas que estão na linha de frente construindo essas tecnologias têm tudo isso resolvido, como será o cenário de 1-2 anos a partir de agora,” afirma.

Roetzer diz que as políticas, leis, ações e discussões atuais simplesmente não estão acompanhando o ritmo acelerado do desenvolvimento da IA.

A saída e os alertas de Brundage destacam várias necessidades cruciais:

• Mais pesquisa e defesa independentes
• Aumento da urgência nas discussões políticas
• Melhor preparação em nível corporativo e societal
• Maior transparência no desenvolvimento da IA
• Discussão mais ampla sobre os impactos da IA

E isso precisa começar a acontecer agora.

“É difícil para as pessoas deixarem de lado seus papéis diários e as coisas em que já estão pensando e dizer ‘Bem, e se tudo for totalmente diferente em 24 meses?’,” diz Roetzer.

Mas precisamos fazer isso, mesmo assim.