Ex-Conselho da OpenAI Retalia

A OpenAI está avançando a todo vapor com seu próximo modelo de fronteira, presumivelmente o GPT-5, mesmo enquanto a empresa enfrenta uma série de controvérsias.

Em um post no blog na semana passada, a empresa anunciou que começou a treinar seu próximo grande modelo de IA, escrevendo:

“A OpenAI recentemente começou a treinar seu próximo modelo de fronteira e antecipamos que os sistemas resultantes nos trarão o próximo nível de capacidades em nosso caminho para a AGI.”

Notavelmente, o anúncio foi feito como parte da formação do novo Comitê de Segurança e Proteção da OpenAI. O grupo tem a tarefa de fazer recomendações ao conselho sobre questões e decisões críticas de segurança e proteção.

Uma de suas primeiras tarefas é avaliar e desenvolver os processos e salvaguardas da OpenAI nos próximos 90 dias, levando à especulação de que o GPT-5 (ou qualquer que seja o nome do próximo modelo de fronteira) pode estar a pelo menos 90 dias de distância.

No entanto, enquanto a OpenAI avança, ex-membros do conselho estão soando o alarme sobre as práticas da empresa.

A ex-membro do conselho Helen Toner e Tasha McCauley publicaram recentemente um artigo de opinião na The Economist pedindo que a OpenAI e outras empresas de IA sejam reguladas, argumentando que elas provaram ser incapazes de se autorregular.

Em uma entrevista explosiva, Toner alegou que o conselho decidiu no ano passado demitir o CEO Sam Altman por “mentir de forma descarada” para eles em alguns casos e reter informações sobre certos assuntos na OpenAI.

Ela também disse que o conselho descobriu sobre o lançamento do ChatGPT no Twitter e teve reservas sobre muitos investimentos e acordos externos de Altman.

“Todos nós quatro que o demitimos,” disse Toner, “chegamos à conclusão de que simplesmente não podíamos acreditar nas coisas que Sam estava nos dizendo.”

O que isso significa para a direção da OpenAI — e da IA como um todo?

Eu obtive as respostas do fundador e CEO do Marketing AI Institute, Paul Roetzer, no episódio 101 do The Artificial Intelligence Show.

Tornando o GPT-5 (e a OpenAI) mais seguros

A OpenAI tem aludido a um novo modelo há algum tempo, então Roetzer não ficou surpreso com o anúncio do modelo de fronteira. Mas agora temos confirmação.

E parece que o Comitê de Segurança e Proteção será o corpo encarregado de garantir que seja seguro, dada a recentemente encerrada equipe de superalinhamento.

“Desde que dissolveram o comitê de superalinhamento, eles tiveram que fazer algo,” diz Roetzer. “Eles têm que tentar manter os reguladores afastados e o governo fora de sua cola.”

Altman vs. o conselho

No que diz respeito às revelações de Toner, Roetzer acredita que a história completa entre Altman e o conselho permanece obscura.

“A realidade é que não temos ideia do que estava acontecendo entre Sam e o conselho,” diz ele, especialmente em relação ao fato de que o conselho descobriu sobre o lançamento do ChatGPT no Twitter.

Ele aponta que, na época do lançamento do ChatGPT, os líderes da OpenAI diziam que não esperavam que fosse um grande problema, o que pode explicar a falta de comunicação com o conselho. (Antes do lançamento, o presidente Greg Brockman até disse a sua equipe que não esperava que o aplicativo tivesse muita tração.)

“Isso basicamente diz tudo o que você precisa saber sobre como os líderes da OpenAI viam o conselho anterior ou quão insignificante eles achavam que o ChatGPT seria,” diz Roetzer.

“E eu realmente acho que é ambos.”

Probablemente tem muito mais acontecendo aqui do que apenas o ChatGPT, diz Roetzer.

Roetzer afirma que é justo dizer que, em novembro de 2023, por volta do momento em que Altman foi demitido, ele havia crescido para lamentar como a empresa estava estruturada como uma organização sem fins lucrativos e subordinada a um conselho sem fins lucrativos.

Lembre-se, a OpenAI começou em 2015 como uma organização sem fins lucrativos. As principais inovações em IA generativa, como o transformador, ainda não tinham sido inventadas. Ninguém sabia que modelos de linguagem grandes escalariam. O sucesso explosivo da IA de hoje era apenas um sonho distante.

“Quando eles criaram essa estrutura sem fins lucrativos e um conselho que tinha todo esse controle, eles não tinham visão do que a OpenAI é hoje,” diz Roetzer.

Isso provavelmente trouxe Altman a um conflito crescente com o conselho à medida que o ChatGPT se tornava um sucesso estrondoso.

“É seguro dizer que ele provavelmente estava fazendo tudo ao seu alcance para acelerar a pesquisa, o desenvolvimento de produtos e a receita dentro das limitações dessa estrutura,” diz ele. “Isso foi frustrante para ele? Provavelmente.”

Dentro da mente de Sam Altman

Também precisamos lembrar quem Altman é.

“Ele é um investidor astuto e homem de negócios. Ele é agressivo, com uma longa história de fechar negócios e fazer grandes apostas em empresas de hiper-crescimento,” diz Roetzer. (De fato, sua riqueza vem de uma multidão de negócios e investimentos fora da OpenAI.)

Quem Altman é provavelmente não era muito compatível com o conselho anterior, diz Roetzer.

“Eu poderia ver completamente como essas negociações e parcerias, que não se encaixam sob métodos rígidos de governança, não se dariam bem com um conselho que foi projetado, em muitos aspectos, para limitar e restringir o crescimento e a inovação em favor da segurança e proteção.”

Em última análise, Roetzer acredita que, enquanto Altman for CEO, a OpenAI “preferirá crescimento e inovação e desenvolvimento acelerado acima de tudo, porque essa é a maneira como Sam funciona.”

“Acho que, no futuro, o que Sam está tentando fazer é que ele continuará fazendo o que Sam faz,” diz Roetzer.

A OpenAI pode ser confiável?

No que diz respeito a saber se podemos confiar na OpenAI e em outras gigantes da tecnologia para conduzir com segurança a próxima onda de IA, Roetzer está incerto.

“Anthropic, OpenAI, Google, Meta, etc., são as empresas que têm recursos suficientes para construir esses modelos de fronteira e elas têm a ambição de fazê-lo,” diz Roetzer. “E até que alguém intervenha e impeça isso, será apenas uma corrida.”

“Confie neles ou não confie neles. São eles que temos, e não vai mudar. Essas são as empresas que vão construir o futuro.”