Meta afirma que conteúdo gerado por IA representou menos de 1% das desinformações relacionadas às eleições em seus aplicativos.

No início do ano, havia grandes preocupações sobre como IA generativa poderia ser usada para interferir nas eleições globais, espalhando propaganda e desinformação. Avançando para o final do ano, a Meta afirma que esses temores não se concretizaram, pelo menos em suas plataformas, pois compartilhou que a tecnologia teve impacto limitado no Facebook, Instagram e Threads.

A empresa afirma que suas descobertas são baseadas em conteúdos relacionados a grandes eleições nos EUA, Bangladesh, Indonésia, Índia, Paquistão, Parlamento da UE, França, Reino Unido, África do Sul, México e Brasil.

“Embora tenha havido casos de uso confirmado ou suspeito de IA dessa forma, os volumes permaneceram baixos e nossas políticas e processos existentes se mostraram suficientes para reduzir o risco relacionado ao conteúdo gerado por IA,” escreveu a empresa em um postagem no blog. “Durante o período eleitoral nas principais eleições listadas acima, as avaliações de conteúdo de IA relacionadas a eleições, política e temas sociais representaram menos de 1% de todas as desinformações verificadas.”

A Meta observa que seu gerador de imagens Imagine AI rejeitou 590.000 solicitações para criar imagens do presidente eleito Trump, do vice-presidente eleito Vance, da vice-presidente Harris, do governador Walz e do presidente Biden no mês que antecedeu o dia da eleição, a fim de evitar que as pessoas criassem deepfakes relacionados às eleições.

A empresa também descobriu que redes coordenadas de contas que buscavam espalhar propaganda ou desinformação “apenas obtiveram ganhos incrementais de produtividade e geração de conteúdo usando IA generativa.”

A Meta afirma que o uso de IA não impediu sua capacidade de desmontar essas campanhas de influência encobertas, pois concentra-se no comportamento dessas contas e não no conteúdo que publicam, independentemente de terem sido criados com IA.

O gigante da tecnologia também revelou que desmantelou cerca de 20 novas operações de influência encobertas ao redor do mundo para prevenir interferências estrangeiras. A Meta diz que a maioria das redes que desmantelou não tinha públicos autênticos e que algumas delas utilizaram curtidas e seguidores falsos para aparentar ser mais populares do que realmente eram.

A Meta apontou, ainda, para outras plataformas, observando que vídeos falsos sobre a eleição dos EUA ligados a operações de influência baseadas na Rússia foram frequentemente postados no X e no Telegram.

“À medida que avaliamos o que aprendemos durante este ano notável, manteremos nossas políticas sob revisão e anunciamos quaisquer mudanças nos próximos meses,” escreveu a Meta.