Relatório revela que chatbots com vozes de celebridades da Meta podem discutir sexo com menores.

Os chatbots de IA disponíveis nas plataformas da Meta, como Facebook e Instagram, podem engajar em conversas sexualmente explícitas com usuários menores de idade, segundo um novo relatório do Wall Street Journal.

O WSJ afirma que, após tomar conhecimento de preocupações internas sobre se a empresa estava fazendo o suficiente para proteger menores, passou meses realizando centenas de conversas tanto com o chatbot oficial da Meta IA quanto com chatbots criados por usuários nas plataformas da Meta.

Em uma conversa relatada, um chatbot usando a voz do ator/lutador John Cena descreveu um cenário sexual gráfico para um usuário que se identificou como uma menina de 14 anos. Em outra conversa, o chatbot imaginou um policial pegando Cena com uma fã de 17 anos e dizendo a ele: “John Cena, você está sob prisão por estupro de vulnerável.”

Um porta-voz da Meta descreveu os testes do WSJ como “tão fabricados que não é apenas marginal, é hipotético.” A empresa estimou que, em um período de 30 dias, o conteúdo sexual representou 0,02% das respostas compartilhadas via Meta IA e estúdio de IA com usuários menores de 18 anos.

“No entanto, agora tomamos medidas adicionais para ajudar a garantir que outras pessoas que desejam passar horas manipulando nossos produtos em casos extremos terão ainda mais dificuldades,” disse o porta-voz.