A IA do DeepSeek evita responder 85% dos questionamentos sobre 'temas sensíveis' relacionados à China

O chatbot de IA DeepSeek tem causado um alvoroço mundial, liderando as paradas de aplicativos e levando Silicon Valley e Wall Street ao colapso.

Um desdobramento do fundo de hedge chinês High-Flyer, a relação custo-desempenho do DeepSeek é impressionante em comparação com concorrentes como a OpenAI. No entanto, relatórios têm documentado cada vez mais algumas das coisas que o chatbot de IA não está disposto a discutir, incluindo tópicos espinhosos como os protestos e massacres da Praça da Paz Celestial e Taiwan.

Um novo relatório da equipe da PromptFoo, uma startup apoiada pela Andreessen Horowitz que ajuda empresas a encontrar vulnerabilidades em aplicações de IA, descobriu que o modelo de raciocínio R1 do DeepSeek se recusou a responder cerca de 85% dos 1.360 “prompts” sobre tópicos sensíveis, e as respostas pré-formatadas do modelo estavam repletas de um “tom nacionalista exagerado” frequentemente oferecido em seu lugar.

Os pesquisadores também observaram que o DeepSeek pode ser facilmente desbloqueado, sugerindo que o laboratório chinês “implementou a censura do PCC [Partido Comunista Chinês] de uma maneira crua e contundente.”

O conjunto completo de dados de prompts sensíveis está disponível no Hugging Face.