CEO da Hugging Face expressa preocupações sobre modelos de IA open source chineses.

Os modelos de IA de código aberto da China têm chamado a atenção ultimamente pelo seu desempenho robusto em diversas tarefas de IA, como programação e “raciocínio”.

No entanto, também têm atraído críticas — incluindo as de funcionários da OpenAI — por censurarem tópicos sensíveis ao governo chinês, como o massacre da Praça da Paz Celestial.

O CEO da Hugging Face, Clement Delangue, expressou preocupações semelhantes. Em um recente podcast (em francês), ele alertou sobre as consequências não intencionais de empresas ocidentais construindo sobre modelos de IA chineses de código aberto com bom desempenho.

“Se você criar um chatbot e perguntar sobre Tiananmen, bem, ele não vai te responder da mesma forma que um sistema desenvolvido na França ou nos EUA”, advertiu Delangue.

Delangue observou que se um país como a China “se tornar de longe o mais forte em IA, eles serão capazes de disseminar certos aspectos culturais que talvez o mundo ocidental não quisesse ver espalhados.”

O CEO já afirmou anteriormente que a IA chinesa está rapidamente alcançando a IA ocidental graças à sua adoção do movimento de código aberto.

Delangue alertou no podcast que a forte concentração dos principais modelos de código aberto provenientes da China é um “desenvolvimento relativamente novo e estou um pouco preocupado com isso, para ser honesto”, disse. “É importante que a IA seja distribuída entre todos os países — que não haja um ou dois países que sejam muito mais fortes que os outros.”

A Hugging Face é a maior plataforma do mundo para modelos de IA e um local popular para as empresas chinesas de IA exibirem seus mais recentes LLMs. De fato, o CTO da Hugging Face anunciou esta semana que o modelo padrão no HuggingChat é o Qwen2.5-72B-Instruct, que foi desenvolvido pela gigante do e-commerce chinesa Alibaba.

Este modelo em particular não parece censurar perguntas sobre o massacre da Praça da Paz Celestial ou outras questões geralmente censuradas pelo governo chinês.

Um modelo diferente da família Qwen da Alibaba disponível no HuggingChat, o QwQ-32B, no entanto, censura claramente quando perguntado pela TC:

O DeepSeek, outro modelo chinês que se tornou viral na comunidade de IA por suas capacidades de raciocínio, também censura extensivamente tópicos considerados sensíveis pelo governo chinês, conforme relatado anteriormente pelo TechCrunch.

As empresas de IA chinesas estão em uma situação difícil, já que o governo chinês obriga seus modelos a “incorporar os valores sociais centrais” e a cumprir o seu já extenso sistema de censura.

Um porta-voz da Hugging Face se recusou a comentar mais, mas destacou que Delangue recentemente previu que a China começaria a liderar a corrida global de IA em 2025.