O Terrível Novo Poder dos Deepfakes

Um novo exemplo chocante da tecnologia deepfake deve soar o alarme para qualquer pessoa que use a internet.

O especialista em IA e professor da Wharton, Ethan Mollick, publicou um deepfake impressionante de si mesmo. (Veja abaixo.)

O deepfake é quase indistinguível de sua verdadeira imagem em câmera. E ele o apresenta falando em múltiplas línguas.

O mais impressionante?

Mollick afirma que criou esse deepfake usando apenas um minuto de dados de treinamento.

A lição?

“Você realmente não pode mais confiar no que vê ou ouve,” escreve Mollick.

Veja por si mesmo…

 

Não se engane…

É um mundo corajoso e novo onde você não pode mais confiar em nada sem verificação.

No Episódio 78 do The Marketing AI Show, o fundador/CEO do Marketing AI Institute, Paul Roetzer, me explicou o que isso significa para todos nós.

Tenha Muito Cuidado ao Usar a Tecnologia Deepfake

Na superfície, existem muitos casos de uso interessantes para deepfakes. Você pode até ser tentado a fazer um deepfake de si mesmo. Mas tenha cuidado: é uma ladeira escorregadia.

“As pessoas estão confiando cegamente em startups de IA com suas imagens e fornecendo dados de treinamento para construir essas coisas que podem ser amplamente mal utilizadas,” diz Roetzer.

Mesmo que você decida que isso vale o risco, precisa começar a se preparar agora para os deepfakes, ele afirma. Porque agora que temos deepfakes hiper-realistas, estamos em um mundo corajoso e novo.

“Você não pode confiar em nada online, a menos que venha de uma fonte verificada.”

O Que Fazer Sobre Deepfakes

Duas coisas precisam acontecer para nos adaptarmos a este mundo corajoso e novo, diz Roetzer. Nenhuma das duas é fácil.

Primeiro, precisamos treinar rapidamente as pessoas para verificar online o que é real e o que não é. Isso é possível, embora exija muito esforço.

Em segundo lugar, precisamos acelerar a autenticação da mídia que aparece online. Isso é muito mais difícil. “Não sei como fazer isso,” diz Roetzer.

Isso nos deixa em uma situação difícil.

O Impacto dos Deepfakes em 2024

No mundo dos negócios, as empresas precisam se proteger rapidamente. Estratégias de deepfake precisam estar no plano de comunicação de crise de cada empresa para 2024.

“Não há nada impedindo alguém de fazer isso com um executivo da sua empresa ou um membro do conselho e causar caos,” diz Roetzer.

Na sociedade, os deepfakes podem muito bem influenciar eleições. (Incluindo a eleição presidencial dos EUA de 2024.)

É muito possível que os deepfakes sejam utilizados para espalhar desinformação ou influenciar eleitores.

“A IA dará aos políticos superpoderes para segmentar e influenciar eleitores,” afirma Roetzer.

Embora possa ser mais difícil do que nunca identificar o que é falso, uma coisa é certa:

O impacto sério dos deepfakes em 2024 será, de fato, muito, muito real.