Accenture Song Apresenta Tecnologia de Deepfake que Seus Advogados Recomendariam Não Lançar

A Accenture Song tinha duas coisas para me mostrar, ambas escondidas no canto de um edifício onde o think tank sem fins lucrativos SeedAI estava hospedando uma vitrine de IA no SXSW em Austin, TX.

A primeira estava em uma pequena sala prateada com um único computador.

“Quando nossos advogados viram isso, nos disseram para não lançá-lo”, disse Justin Durazzo, diretor de design imersivo da Accenture Song.

Dentro da sala, o monitor fez uma captura do meu rosto. Fui solicitado a falar três frases diferentes, cada uma com um nível crescente de emoção. Assisti a um vídeo de três minutos apresentado por Kyle Vorbach, que dirigiu o documentário de 2024 Como Eu Fingi Minha Vida Com IA, falando brevemente sobre deepfakes.

E então, fui mostrado um vídeo de vigilância de mim agindo de maneira suspeita em um hotel, e um vídeo nas redes sociais de mim tendo um acesso de fúria em um café.

O que é cada vez mais alarmante sobre deepfakes é quão rapidamente e facilmente podem ser criados—e não apenas de celebridades com bibliotecas de filmes, fotos e áudios para escolher, mas de cidadãos comuns usando entradas mínimas.

A exibição foi chamada de “Conheça Seu Criador Digital”, criada pela Accenture Song e sua agência Droga5, para mostrar o First AI-ID Kit, uma iniciativa que estreou na CES 2025 para ajudar as pessoas a se protegerem contra ataques de deepfake.

Os vídeos não me replicaram perfeitamente. A chefe de inovação e diretora criativa executiva da Accenture Song, Maria Devereux, me disse que a tecnologia poderia produzir algo com muito mais fidelidade com um pouco mais de tempo e alguns ativos adicionais.

Mas o ponto da exposição era mostrar quão rapidamente e facilmente a tecnologia poderia criar um deepfake. Três minutos era o tempo mínimo para criar algo aceitável e a tecnologia só vai melhorar nos próximos anos.

A segunda parte da exposição, que estreou no SXSW 2025, ocorreu em uma cabina telefônica (“Foi muito difícil para nós conseguirmos uma dessas”, Devereux me disse), onde tive uma conversa com um chatbot de IA sobre como eu me sentia em relação à tecnologia de deepfake.

Ele ouviu minhas respostas a algumas perguntas e, então, a voz do chatbot de IA se tornou a minha voz.

Ou pelo menos, uma aproximação dela. A cadência estava um pouco errada e o discurso parecia ter um leve sotaque que eu definitivamente não tenho, mas o ponto era a rapidez com que minha voz poderia ser roubada e reaproveitada.

Ouvi a mim mesmo afirmando que estava em apuros e implorando por dinheiro.