O Ambicioso Plano da Meta para a Inteligência Geral de Código Aberto

A Meta acabou de surpreender o mundo da IA com anúncios importantes.

Em um recente Instagram Reel, o CEO da Meta, Mark Zuckerberg, afirmou que a empresa de mídia social está comprometida em construir inteligência geral artificial (AGI) de código aberto.

Isso significa desenvolver sistemas de inteligência artificial que sejam tão inteligentes quanto as pessoas em várias tarefas diferentes e tornar esses sistemas disponíveis para qualquer um usar e remixar conforme desejar.

Zuckerberg comentou:

“Ficou claro que a próxima geração de serviços requer a construção de inteligência geral completa, criando os melhores assistentes de IA, IAs para criadores, IAs para empresas e mais, o que necessita de avanços em todas as áreas da IA, desde raciocínio até planejamento, codificação, memória e outras habilidades cognitivas.”

(Em outras palavras, o futuro da IA é muito mais do que IA generativa ou chatbots de IA…)

Para tornar esse futuro uma realidade, a empresa está tomando medidas significativas, incluindo:

• Reunir suas equipes de pesquisa em IA (FAIR e GenAI) para alinhar o objetivo de construir AGI…
• Treinar o LLaMA 3, o próximo poderoso modelo de IA da Meta, que é de código aberto…
• E construir uma quantidade impressionante de infraestrutura computacional até o final do ano, incluindo a aquisição de centenas de milhares de H100s (processadores poderosos projetados para aplicações de IA).

Curiosamente, Zuck também elogiou os óculos inteligentes da Meta, criados em parceria com a RayBan, dizendo:

“Acredito que muitos de nós iremos interagir com a IA várias vezes ao longo do dia. E acho que muitos de nós farão isso usando óculos. Esses óculos são a forma ideal de permitir que uma IA veja o que você vê e ouça o que você ouve.”

Por que isso é tão importante? É aconselhável abrir o código de uma super-inteligência geral?

No Episódio 80 de The Marketing AI Show, eu obtive as respostas do fundador/CEO do Marketing AI Institute, Paul Roetzer.

A Meta Está Levar a Sério a Produtização da IA

“As notícias do laboratório de pesquisa chamaram minha atenção logo de cara,” diz Roetzer.

Yann LeCun é o Cientista Chefe de IA da Meta e desempenhou um papel crucial na área desde os anos 80. Na Meta, sua área de influência é a FAIR, um dos laboratórios de pesquisa da Meta mencionados na declaração de Zuck.

Na declaração, Zuck fez referência a unir a FAIR e o outro laboratório de pesquisa, GenAI. Isso reflete o que aconteceu quando o Google uniu suas equipes Google Brain e DeepMind.

Esses tipos de movimentos mostram uma urgência crescente dentro dessas empresas para desenvolver aplicações práticas de IA, diz Roetzer. Por décadas, grandes empresas de tecnologia têm investido bilhões em pesquisa em IA que não teve aplicações imediatas de produto.

“Eles estavam apenas realizando pesquisas para a próxima fronteira,” afirma. “Agora chegamos a essa fronteira, e agora há uma urgência em produtizar o que essas equipes têm construído.”

Mas AGI É Uma Nova Prioridade Para a Empresa

A anúncio sobre AGI também foi digno de nota, pois a empresa não havia falado muito sobre isso como um objetivo anteriormente, diz Roetzer.

Isso pode refletir uma nova prioridade porque LeCun frequentemente — e vocalmente — disse que a pesquisa em IA está longe de desenvolver AGI. Ele não acredita que conseguiremos AGI por meio de modelos de linguagem. No entanto, Zuckerberg afirma que a empresa está em busca de AGI.

“Você não pensaria que eles trabalham pela mesma empresa ao olhar para essas duas coisas,” diz Roetzer.

O Próximo Modelo da Meta Pode Superar o GPT-4

Apesar de ser técnico, a menção de Zuckerberg à quantidade de chips H100 é importante. Esses GPUs são os chips que alimentam aplicações de IA e estão em demanda insana. Zuckerberg diz que a empresa planeja adquirir 350.000 H100s até o final de 2024 — e quase 600.000 equivalentes em H100 de computação geral por meio de todos os GPUs adquiridos.

Atualmente, quanto mais GPUs você tem, mais poderosa é a IA que pode construir. E, para contextualizar, esse é um número enorme de GPUs.

A OpenAI nunca divulgou o número de GPUs usadas para treinar o GPT-4, mas acredita-se que esse número fique em torno de 20.000 a 25.000 — muito, muito menor do que o número que a Meta pretende adquirir. A Inflection, uma empresa de IA que levantou 1,3 bilhões de dólares para construir o que vê como o maior cluster de IA do mundo, disse que seu objetivo é 22.000 chips.

Em outras palavras, 600.000 H100s e equivalentes de H100 é uma quantidade impressionante de poder computacional que supera o computado usado para treinar todos os modelos líderes por uma ordem de magnitude — o que significa que os futuros modelos da Meta, como o LLaMA 3, poderiam ser muito mais poderosos do que o GPT-4.

O Que Acontece Quando AGI É Open Source?

Então, o que acontece quando a Meta libera centenas de milhares de GPUs para treinar uma IA superpoderosa com o objetivo de criar inteligência geral e depois… a torna de código aberto para todos?

“Eu gostaria de ter a resposta,” diz Roetzer. Existe um debate ativo na comunidade de IA sobre a sabedoria do caminho open source que a Meta está seguindo. Alguns veem isso como o único caminho a seguir, pois não podemos confiar em um punhado de empresas para controlar a tecnologia de IA superinteligente. Outros acreditam que a maneira mais segura de desenvolver uma IA poderosa é dentro das confines de empresas regulamentadas que possuem os guardrails e a expertise para controlar a tecnologia.

“Honestamente, não sei onde eu me posiciono,” diz Roetzer.

“Apenas sei que é irrelevante, pois não há como voltar atrás. Os modelos abertos já estão disponíveis. Haverá modelos de código aberto ainda mais poderosos em breve. A Meta está determinada a que isso aconteça. E mesmo que coloquemos regulamentações em vigor hoje, já é tarde demais para voltar atrás.”