Sam Altman e Outros Líderes de IA (Embora Não Todos) Entram para o Conselho de IA do Departamento de Segurança Interna

Sam Altman da OpenAI e outros líderes estão se juntando a um conselho de segurança de IA gerido pelo Departamento de Segurança Interna dos EUA.

O conselho é chamado de Conselho de Segurança e Proteção de IA. Quase duas dúzias de líderes das áreas de tecnologia, negócios e política estão no conselho. E o trabalho deles é ajudar o Departamento de Segurança Interna a implementar a IA de maneira segura nas infraestruturas nacionais críticas.

Pela natureza dessa missão, o conselho reúne um grupo diversificado de pessoas.

Além de Altman, Satya Nadella da Microsoft, Jensen Huang da Nvidia, Dario Amodei da Anthropic e Sundar Pichai da Alphabet também fazem parte dele.

Os membros do conselho incluem ainda o CEO da Northrop Grumman, o prefeito de Seattle, o governador de Maryland e a renomada pesquisadora de IA Fei-Fei Li.

O que você precisa saber sobre esse novo desenvolvimento em IA?

Eu obtive a resposta do fundador e CEO do Marketing AI Institute, Paul Roetzer, no Episódio 95 do The Artificial Intelligence Show.

Omissões notáveis do conselho de segurança de IA

As ausências no conselho são notáveis, diz Roetzer.

“A coisa óbvia é que a Meta não está lá. Portanto, sem Zuckerberg, sem [o Chefe Cientista de IA da Meta] Yann LeCun,” afirma.

Elon Musk, que dirige sua própria empresa de IA, também está ausente.

De maneira geral, diz Roetzer, o conselho parece carecer de representação de líderes em IA de código aberto. A Meta acaba de lançar seu modelo de código aberto Llama 3. Musk tem sido vocal sobre a necessidade de IA de código aberto.

“Muitas das pessoas aqui, do ponto de vista da IA, não são as grandes que estão lutando por aceleração de código aberto,” observa Roetzer.

A infraestrutura é “um problema” e “vetor de ataque”

O conselho também chama atenção por incluir pessoas que não estão diretamente envolvidas em IA.

No entanto, diz Roetzer, é importante notar que pelo menos alguns dos membros do conselho fazem sentido, dado o foco na infraestrutura crítica.

“Faz total sentido que alguém de uma empresa de petróleo, alguém de uma empresa aérea, você gostaria de diversidade,” diz Roetzer.

“Eles não precisam ser especialistas em IA para explicar como funciona o transporte nos Estados Unidos ou como a rede elétrica funciona.”

Isso não significa que os defensores do código aberto devam ser omitidos. Mas é provável que o foco aqui na Segurança Interna se concentre em quem pode ajudar mais com as necessidades relacionadas à infraestrutura.

Roetzer enfatiza a importância dessas conversas, observando que a infraestrutura é um problema significativo e um vetor de ataque potencial nos EUA, onde grande parte das infraestruturas nacionais está desatualizada.

“Em muitos casos, a infraestrutura tem 70 anos ou mais, e isso é um problema e um vetor de ataque,” afirma.