Meta lança uma ferramenta para marca d'água em vídeos gerados por IA.

Jogue uma pedra e você provavelmente atingi um deepfake. A commoditização da IA generativa resultou em uma explosão absoluta de conteúdo falso na internet: De acordo com a plataforma de verificação de identidade Sumsub, houve um aumento de 4 vezes nos deepfakes em todo o mundo de 2023 para 2024. Em 2024, os deepfakes representaram 7% de todas as fraudes, conforme a Sumsub, abrangendo desde impersonificações e roubos de contas até campanhas sofisticadas de engenharia social.

Na esperança de fazer uma contribuição significativa na luta contra deepfakes, a Meta está lançando uma ferramenta para aplicar marcas d’água imperceptíveis a clipes de vídeo gerados por IA. Anunciada na quinta-feira, a ferramenta, chamada Meta Video Seal, está disponível como código aberto e foi projetada para ser integrada a softwares existentes. A ferramenta se junta às outras ferramentas de marca d’água da Meta, Watermark Anything (re-lançada hoje sob uma licença permissiva) e Audio Seal.

“Desenvolvemos o Video Seal para fornecer uma solução de marca d’água para vídeo mais eficaz, especialmente para detectar vídeos gerados por IA e proteger a originalidade,” disse Pierre Fernandez, cientista de pesquisa em IA da Meta, em uma entrevista ao TechCrunch.

O Video Seal não é a primeira tecnologia desse tipo. O SynthID da DeepMind pode marcar vídeos, e a Microsoft possui suas próprias metodologias de marca d’água para vídeos.

Mas Fernandez afirma que muitas abordagens existentes não são suficientes.

“Embora outras ferramentas de marca d’água existam, elas não oferecem robustez suficiente à compressão de vídeo, que é muito prevalente ao compartilhar conteúdo por meio de plataformas sociais; não eram eficientes o bastante para funcionar em grande escala; não eram abertas ou reproduzíveis; ou derivadas de marca d’água de imagens, o que é subótimo para vídeos,” afirmou Fernandez.

Além de uma marca d’água, o Video Seal pode adicionar uma mensagem oculta aos vídeos que pode ser descoberta posteriormente para determinar suas origens. A Meta afirma que o Video Seal é resistente a edições comuns como desfocagem e recorte, além de algoritmos de compressão populares.

Fernandez admite que o Video Seal possui certas limitações, principalmente a troca entre quão perceptíveis são as marcas d’água da ferramenta e sua resiliência geral à manipulação. Compressão pesada e edições significativas podem alterar as marcas d’água ou torná-las irrecuperáveis, acrescentou.

Claro, o problema maior que o Video Seal enfrenta é que desenvolvedores e a indústria não terão muitos motivos para adotá-lo, especialmente aqueles que já utilizam soluções proprietárias. Para abordar isso, a Meta está lançando uma tabela de classificação pública, o Meta Omni Seal Bench, dedicada a comparar o desempenho de vários métodos de marca d’água, e organizando um workshop sobre marca d’água este ano no ICLR, uma importante conferência de IA.

“Esperamos que cada vez mais pesquisadores e desenvolvedores de IA integrem algum tipo de marca d’água em seu trabalho,” disse Fernandez. “Queremos colaborar com a indústria e a comunidade acadêmica para avançar mais rapidamente neste campo.”