O CEO da Anthropic, Dario Amodei, chama a Cúpula de Ação sobre IA de 'oportunidade perdida'

Em uma declaração na terça-feira, Dario Amodei, CEO da startup de IA Anthropic, chamou a Cúpula de Ação de IA em Paris nesta semana de “oportunidade perdida” e instou a indústria de IA — e o governo — a “agir mais rápido e com maior clareza.”

“Ficamos satisfeitos em participar da Cúpula de Ação de IA em Paris e apreciamos os esforços do governo francês para reunir empresas de IA, pesquisadores e formuladores de políticas de todo o mundo”, disse Amodei. “No entanto, um maior foco e urgência são necessários em vários tópicos, dado o ritmo de progresso da tecnologia.”

A crítica de Amodei à Cúpula de Ação de IA, a mais recente de uma série de conferências que reuniram empresas de IA e reguladores em uma tentativa de chegar a um consenso sobre a governança da IA, reflete a de vários acadêmicos no início desta semana. Um disse ao Transformer que os compromissos da conferência, que os EUA e o Reino Unido se recusaram a assinar, disseram “basicamente nada, exceto platitudes.”

Em comentários na conferência, o Vice-Presidente dos EUA, JD Vance, adotou uma postura totalmente diferente e denunciou o que caracterizou como “massivas” e sufocantes regulamentações sobre IA defendidas pela Europa. Vance também criticou a moderação de conteúdo, aludindo à redação “sustentável” e “inclusiva” nos compromissos da conferência, que ele rejeitou como “censura autoritária.”

Amodei advertiu em sua declaração que a IA está se tornando rapidamente mais sofisticada e que a falta de regulação poderia resultar em consequências desastrosas.

“As capacidades dos sistemas de IA devem ser pensadas como semelhantes a um novo estado populado por pessoas altamente inteligentes surgindo no cenário global,” disse Amodei. “A IA avançada apresenta perigos significativos à segurança global, que vão desde o uso indevido de sistemas de IA por atores não estatais … Devemos garantir que sociedades democráticas liderem na IA, e que países autoritários não a usem para estabelecer a dominância militar global.”

Amodei instou os governos a alocar seus recursos para medir como a IA está sendo utilizada e a promulgar políticas focadas em “garantir que todos compartilhem do aumento econômico proporcionado por uma IA muito poderosa.” Ele também argumentou por maior transparência governamental em relação à segurança da IA, bem como planos para avaliar os riscos da IA.

A avaliação de Amodei sobre os procedimentos da Cúpula de IA em Paris contrasta com a do OpenAI, que disse em uma declaração neste fim de semana que estava confiante de que a conferência seria “mais um marco importante para o desenvolvimento responsável e benéfico da IA para todos.”

A Anthropic tem mostrado uma maior abertura à regulação da IA no passado. De fato, Amodei fez declarações semelhantes antes, alertando que a IA desenfreada poderia ter implicações econômicas, sociais e de segurança profundamente negativas. A Anthropic foi uma das poucas empresas de IA a apoiar tacitamente o SB 1047 da Califórnia, um projeto de lei abrangente — e muito debatido — sobre regulamentação de IA. O OpenAI se opôs ao projeto, que foi vetado pelo governador Gavin Newsom no outono passado.

Isso não sugere que os motivos da Anthropic sejam puramente filantrópicos. Assim como o CEO do OpenAI, Sam Altman, em seu ensaio recente, Amodei não oferece recomendações concretas para garantir que os benefícios da IA poderosa, caso ela emerja em um futuro próximo, sejam amplamente e uniformemente distribuídos.

Leia nossa cobertura completa da Cúpula de Ação em Inteligência Artificial em Paris.