Reddit irá intensificar a verificação para barrar bots de IA com aparência humana.

Redditors em todo o mundo ficaram escandalizados na semana passada ao descobrir que uma equipe de pesquisadores lançou uma série de bots alimentados por IA, que imitam humanos, no subreddit “Change My View”. O experimento em larga escala foi projetado para explorar o quão persuasiva a IA pode ser.

Os bots postaram mais de 1.700 comentários, adotando personas como sobreviventes de abuso ou identidades controversas, como um defensor anti-Black Lives Matter.

Para o Reddit, o incidente foi um mini-pesadelo. A marca Reddit está associada à autenticidade — um lugar onde pessoas reais compartilham opiniões reais. Se esse ecossistema centrado no humano for perturbado por AI slop ou se tornar um lugar onde as pessoas não podem confiar que estão recebendo informações de humanos de fato, isso pode ameaçar não apenas a identidade central do Reddit, mas até mesmo seu resultado financeiro, uma vez que a empresa agora vende seu conteúdo para a OpenAI para treinamento.

A empresa condenou o “experimento impróprio e altamente antiético” e apresentou uma queixa à universidade que o conduziu. No entanto, esse experimento foi apenas um dos muitos casos futuros de bots gerados por IA fingindo ser humanos no Reddit por uma variedade de razões, desde científicas até manipulativas politicamente.

Para proteger os usuários da manipulação por bots e “manter o Reddit humano”, a empresa sinalizou discretamente uma ação futura — uma que pode ser impopular entre os usuários que acessam o Reddit por outro motivo: anonimato.

Na segunda-feira, o CEO do Reddit, Steve Huffman, compartilhou em uma postagem que o Reddit começaria a trabalhar com “vários serviços de terceiros” para verificar a humanidade de um usuário. Isso representa um passo significativo para uma plataforma que historicamente exigiu quase nenhuma informação pessoal para que os usuários criassem uma conta.

“Para manter o Reddit humano e atender aos requisitos regulatórios em evolução, precisaremos de um pouco mais de informação”, escreveu Huffman. “Especificamente, precisaremos saber se você é humano e, em algumas localidades, se você é um adulto. Mas nunca queremos saber seu nome ou quem você é.”

(As empresas de mídia social já começaram a implementar verificações de ID, após pelo menos nove estados e o Reino Unido terem aprovado leis obrigando a verificação de idade para proteger crianças em suas plataformas).

Um porta-voz do Reddit não explicou sob quais circunstâncias a empresa exigiria que os usuários passassem por um processo de verificação, embora tenha confirmado que o Reddit já toma medidas para banir “bots ruins”. O porta-voz também não compartilhou mais detalhes sobre quais serviços de terceiros a empresa utilizaria ou que tipo de informações pessoalmente identificáveis os usuários teriam que fornecer.

Hoje, muitas empresas confiam em plataformas de verificação como Persona, Alloy, Stripe Identity, Plaid e Footprint, que normalmente exigem um documento de identidade emitido pelo governo para verificar a idade e a humanidade. Além disso, há tecnologias mais novas e especulativas, como as dispositivos de “prova de humano” de Sam Altman.

Os opositores das verificações de ID afirmam que existem riscos de privacidade e segurança de dados ao compartilhar suas informações pessoais com plataformas de mídia social. Isso é especialmente verdade para uma plataforma como o Reddit, onde as pessoas vão para postar experiências que talvez nunca compartilhassem se seus nomes estivessem anexados a elas.

Não é difícil imaginar um mundo em que as autoridades poderiam convocar o Reddit para revelar a identidade, por exemplo, de uma adolescente grávida que pergunta sobre experiências de aborto em r/women em estados onde isso agora é ilegal. Veja como a Meta entregou conversas privadas entre uma mulher de Nebraska e sua filha de 17 anos, que discutiram os planos da filha de interromper uma gravidez. A assistência da Meta levou as autoridades a obter um mandado de busca, resultando em acusações de crime tanto para a mãe quanto para a filha.

Esse é exatamente o risco que o Reddit espera evitar ao recorrer a firmas externas para fornecer “as informações essenciais e nada mais”, segundo Huffman, que enfatizou que “nunca queremos saber seu nome ou quem você é.”

“O anonimato é essencial para o Reddit”, disse ele.

O CEO também observou que o Reddit continuará a ser “extremamente protetor de suas informações pessoais” e “continuará a resistir a exigências excessivas ou irrazoáveis de autoridades públicas ou privadas.”