Co-fundador da Hugging Face, Thomas Wolf, desafia a visão do CEO da Anthropic para o futuro da IA — e a indústria de $130 bilhões está prestando atenção.

Thomas Wolf, cofundador da empresa de IA Hugging Face, lançou um desafio contundente às visões mais otimistas da indústria de tecnologia sobre inteligência artificial, argumentando que os sistemas de IA atuais são fundamentalmente incapazes de proporcionar as revoluções científicas que seus criadores prometem.

Em um post de blog provocativo publicado em seu site pessoal esta manhã, Wolf confronta diretamente a visão amplamente divulgada do CEO da Anthropic, Dario Amodei, que previu que IA avançada proporcionaria um “século 21 comprimido”, onde décadas de progresso científico poderiam ocorrer em apenas alguns anos.

“Receio que a IA não nos dará um ‘século 21 comprimido’”, escreve Wolf em seu post, argumentando que os sistemas de IA atuais são mais propensos a produzir “um país de sim-señores em servidores” em vez do “país de gênios” que Amodei imagina.

Esse intercâmbio destaca uma divisão crescente na forma como os líderes de IA pensam sobre o potencial da tecnologia para transformar a descoberta científica e a resolução de problemas, com grandes implicações para estratégias de negócios, prioridades de pesquisa e decisões políticas.

De aluno nota A a ‘pesquisador medíocre’: Por que a excelência acadêmica não equivale a genialidade científica

Wolf fundamenta sua crítica em experiências pessoais. Apesar de ter sido um aluno nota A que estudou no MIT, ele descreve ter descoberto que era um “pesquisador médio, desapontador, medíocre” quando começou seu trabalho de doutorado. Essa experiência moldou sua visão de que o sucesso acadêmico e a genialidade científica requerem abordagens mentais fundamentalmente diferentes — a primeira recompensa a conformidade, enquanto a última exige rebeldia contra o pensamento estabelecido.

“O principal erro que as pessoas costumam cometer é pensar que Newton ou Einstein eram apenas alunos bons ampliados”, explica Wolf. “Uma verdadeira descoberta científica é Copérnico propondo, contra todo o conhecimento de sua época — em termos de ML, diríamos ‘apesar de todo seu conjunto de dados de treinamento’ — que a terra pode orbitar o sol em vez do contrário.”

A visão de Amodei, publicada em outubro passado em seu ensaio “Máquinas de Carinho”, apresenta uma perspectiva radicalmente diferente. Ele descreve um futuro onde a IA, operando a “10x-100x da velocidade humana” e com intelecto que excede o de ganhadores do Prêmio Nobel, poderia proporcionar um século de progresso nas áreas de biologia, neurociência e outros campos em cinco a dez anos.

Amodei imagina “prevenção confiável e tratamento de quase todas as doenças naturais infecciosas”, “eliminação da maior parte do câncer”, curas eficazes para doenças genéticas e potencialmente dobrando a expectativa de vida humana, tudo acelerado pela IA. “Acredito que os retornos da inteligência são altos para essas descobertas, e que tudo o mais na biologia e na medicina segue basicamente dessas,” escreve ele.

Estamos testando a IA para conformidade em vez de criatividade? O problema da referência que impede a descoberta científica

Essa tensão fundamental na crítica de Wolf revela uma realidade muitas vezes negligenciada no desenvolvimento de IA: nossos benchmarks são principalmente projetados para medir o pensamento convergente ao invés do pensamento divergente. Os sistemas de IA atuais se destacam em produzir respostas que alinham-se com o consenso do conhecimento existente, mas têm dificuldade em oferecer o tipo de insights contrários e desafiantes que impulsionam revoluções científicas.

A indústria investiu pesadamente em medir quão bem os sistemas de IA podem responder a perguntas com respostas estabelecidas, resolver problemas com soluções conhecidas e se encaixar dentro das estruturas existentes de entendimento. Isso cria um viés sistêmico em favor de sistemas que se conformam, em vez de desafiar.

Wolf critica especificamente benchmarks atuais de avaliação de IA como “O Último Exame da Humanidade” e “Matemática de Fronteira”, que testam os sistemas de IA em perguntas difíceis com respostas conhecidas, em vez de sua capacidade de gerar hipóteses inovadoras ou desafiar paradigmas existentes.

“Esses benchmarks testam se os modelos de IA podem encontrar as respostas corretas para um conjunto de perguntas que já conhecemos a resposta”, escreve Wolf. “No entanto, verdadeiras descobertas científicas virão não de responder perguntas conhecidas, mas de fazer perguntas novas desafiadoras e questionar concepções comuns e ideias anteriores.”

Essa crítica aponta para uma questão mais profunda em como conceptualizamos a inteligência artificial. O foco atual na contagem de parâmetros, no volume de dados de treinamento e no desempenho de benchmarks pode estar criando a IA equivalente a alunos excelentes em vez de pensadores revolucionários.

Bilhões em jogo: Como o debate entre ‘alunos obedientes vs. revolucionários’ moldará a estratégia de investimento em IA

Essa divisão intelectual tem implicações substanciais para a indústria de IA e o ecossistema empresarial mais amplo.

Empresas que se alinham com a visão de Amodei podem priorizar a escalabilidade dos sistemas de IA a tamanhos sem precedentes, esperando que a inovação descontinua surja a partir do aumento do poder computacional e da integração de um conhecimento mais amplo. Essa abordagem fundamenta as estratégias de empresas como Anthropic, OpenAI e outros laboratórios de IA de fronteira que coletivamente levantaram dezenas de bilhões de dólares nos últimos anos.

Por outro lado, a perspectiva de Wolf sugere que retornos maiores podem advir do desenvolvimento de sistemas de IA especificamente projetados para desafiar o conhecimento existente, explorar contrafactuais e gerar hipóteses novas — capacidades que não necessariamente surgem a partir das metodologias de treinamento atuais.

“Atualmente, estamos construindo alunos muito obedientes, não revolucionários,” explica Wolf. “Isso é perfeito para o principal objetivo atual no campo de criar ótimos assistentes e ajudantes excessivamente conformistas. Mas até que encontremos uma maneira de incentivá-los a questionar seu conhecimento e propor ideias que possam potencialmente ir contra os dados de treinamento anteriores, eles ainda não nos proporcionarão revoluções científicas.”

Para os líderes empresariais que apostam na IA para impulsionar a inovação, esse debate levanta questões estratégicas cruciais. Se Wolf estiver correto, as organizações que investem em sistemas de IA atuais na expectativa de descobertas científicas revolucionárias podem precisar moderar suas expectativas. O verdadeiro valor pode estar em melhorias mais incrementais nos processos existentes, ou na implantação de abordagens de colaboração humano-IA onde os humanos fornecem as intuições desafiadoras de paradigma enquanto os sistemas de IA lidam com o trabalho pesado computacional.

A questão de $184 bilhões: A IA está pronta para cumprir suas promessas científicas?

Esse intercâmbio ocorre em um momento crucial na evolução da indústria de IA. Após anos de crescimento explosivo nas capacidades e investimentos em IA, tanto stakeholders públicos quanto privados estão cada vez mais focados em retornos práticos dessas tecnologias.

Dados recentes da empresa de análises de capital de risco PitchBook mostram que o financiamento em IA alcançou $130 bilhões globalmente em 2024, com aplicações na saúde e descoberta científica atraindo interesse particular. No entanto, as perguntas sobre as descobertas científicas tangíveis desses investimentos tornaram-se mais insistentes.

O debate entre Wolf e Amodei representa uma divisão filosófica mais profunda no desenvolvimento de IA que tem fervilhado sob a superfície das discussões da indústria. De um lado estão os otimistas da escalabilidade, que acreditam que melhorias contínuas no tamanho do modelo, volume de dados e técnicas de treinamento eventualmente gerarão sistemas capazes de insights revolucionários. Do outro lado estão os céticos da arquitetura, que argumentam que limitações fundamentais em como os sistemas atuais são projetados podem impedi-los de fazer os saltos cognitivos que caracterizam revoluções científicas.

O que torna esse debate particularmente significativo é que ele está ocorrendo entre dois líderes respeitados que têm estado na vanguarda do desenvolvimento de IA. Ninguém pode ser descartado como simplesmente desinformado ou resistente ao progresso tecnológico.

Além da escalabilidade: Como a IA de amanhã pode precisar pensar mais como rebeldes científicos

A tensão entre essas perspectivas aponta para uma evolução potencial em como os sistemas de IA são projetados e avaliados. A crítica de Wolf não sugere abandonar as abordagens atuais, mas sim aumentá-las com novas técnicas e métricas especificamente destinadas a fomentar o pensamento contrariano.

Em seu post, Wolf sugere que novos benchmarks deveriam ser desenvolvidos para testar se os modelos de IA científica podem “desafiar seu próprio conhecimento de dados de treinamento” e “adotar abordagens contrafactuais ousadas.” Isso representa um apelo não por menos investimento em IA, mas por um investimento mais cuidadoso que considere o espectro total de capacidades cognitivas necessárias para o progresso científico.

Essa visão mais nuançada reconhece o enorme potencial da IA enquanto reconhece que os sistemas atuais podem se destacar em determinados tipos de inteligência enquanto lutam com outros. O caminho a seguir provavelmente envolve desenvolver abordagens complementares que aproveitem as forças dos sistemas atuais enquanto encontram maneiras de abordar suas limitações.

Para empresas e instituições de pesquisa que navegam na estratégia de IA, as implicações são substanciais. As organizações podem precisar desenvolver estruturas de avaliação que avaliem não apenas quão bem os sistemas de IA respondem a perguntas existentes, mas quão efetivamente eles geram novas perguntas. Elas podem precisar projetar modelos de colaboração humano-IA que combinem as habilidades de reconhecimento de padrões e computação da IA com as intuições desafiadoras de paradigmas dos especialistas humanos.

Encontrando o caminho do meio: Como a IA poderia combinar poder computacional com pensamento revolucionário

Talvez o resultado mais valioso desse intercâmbio seja que ele empurre a indústria em direção a uma compreensão mais equilibrada tanto do potencial quanto das limitações da IA. A visão de Amodei oferece um lembrete convincente do impacto transformador que a IA poderia ter em múltiplos domínios simultaneamente. A crítica de Wolf fornece um contrapeso necessário, destacando os tipos específicos de capacidades cognitivas necessárias para um progresso verdadeiramente revolucionário.

À medida que a indústria avança, essa tensão entre otimismo e ceticismo, entre escalar abordagens existentes e desenvolver novas, provavelmente impulsionará a próxima onda de inovação no desenvolvimento de IA. Ao entender ambas as perspectivas, as organizações podem desenvolver estratégias mais nuançadas que maximizem o potencial dos sistemas atuais enquanto também investem em abordagens que abordem suas limitações.

No momento, a questão não é se Wolf ou Amodei estão corretos, mas sim como suas visões contrastantes podem informar uma abordagem mais abrangente para o desenvolvimento de inteligência artificial que não apenas se destaque em responder as perguntas que já temos, mas nos ajude a descobrir as perguntas que ainda não pensamos em fazer.