Adobe deseja criar um indicador estilo robots.txt para imagens utilizadas no treinamento de IA

Por anos, os websites incluíam informações sobre quais tipos de crawlers não eram permitidos em seus sites com um arquivo robots.txt. A Adobe, que deseja criar um padrão semelhante para imagens, adicionou uma ferramenta a credenciais de conteúdo com a intenção de dar um pouco mais de controle sobre o que é utilizado para treinar modelos de IA.

Convencer as empresas de IA a realmente aderirem ao padrão da Adobe pode ser o principal desafio, especialmente considerando que os crawlers de IA já são conhecidos por ignorar solicitações no arquivo robots.txt.

As credenciais de conteúdo são informações nos metadados de um arquivo de mídia usadas para identificar autenticidade e propriedade. É uma implementação do Coalizão para Proveniência e Autenticidade do Conteúdo (C2PA), um padrão para autenticidade de conteúdo.

A Adobe está lançando uma nova ferramenta web para permitir que criadores anexem credenciais de conteúdo a todos os arquivos de imagem, mesmo que não sejam criados ou editados por suas próprias ferramentas. Além disso, está oferecendo uma maneira para que os criadores sinalizem às empresas de IA que aquela imagem específica não deve ser utilizada para treinar modelos.

O novo aplicativo da web da Adobe, chamado Adobe Content Authenticity App, permite que os usuários anexem suas credenciais, incluindo nome e contas de redes sociais, a um arquivo. Os usuários podem anexar essas credenciais a até 50 arquivos JPG ou PNG de uma só vez.

A Adobe está se unindo ao LinkedIn para utilizar o programa de verificação da plataforma de propriedade da Microsoft. Isso ajuda a provar que a pessoa que anexa as credenciais a uma imagem possui um nome verificado no LinkedIn.

Os usuários também podem anexar seus perfis do Instagram ou X a uma imagem, mas não há integração com a verificação dessas plataformas.

O mesmo aplicativo permite que os usuários marquem uma caixa para sinalizar que suas imagens não devem ser usadas para treinamento de modelos.

Embora o campo esteja presente no aplicativo e, subsequentemente, nos metadados de uma imagem com credenciais de conteúdo, a Adobe ainda não assinou um acordo com nenhum dos criadores de modelos de IA para adotar esse padrão. A empresa afirmou que está em conversas com todos os principais desenvolvedores de modelos de IA para convencê-los a usar e respeitar esse padrão.

As intenções da Adobe estão no caminho certo para fornecer um indicador aos criadores de modelos para os dados de treinamento de IA, mas a iniciativa não funcionará se as empresas não concordarem com o padrão ou não respeitarem o indicador.

No ano passado, a implementação de rótulos da Meta para auto-marcar imagens em sua plataforma causou um alvoroço, já que fotógrafos reclamaram de suas imagens editadas sendo marcadas com um rótulo “Feito com IA”. A Meta mudou mais tarde o rótulo para “Informações de IA”.

Esse desenvolvimento destacou que, enquanto a Meta e a Adobe são ambas parte do comitê diretor da C2PA, há uma diferença na implementação entre diferentes plataformas.

Andy Parson, Diretor Sênior da Iniciativa de Autenticidade de Conteúdo da Adobe, afirmou que a empresa construiu o novo aplicativo de credenciais de conteúdo com os criadores. Dado que as regulamentações em torno do copyright e dos dados de treinamento de IA são dispersas ao redor do mundo, a empresa quer dar aos criadores uma maneira de sinalizar suas intenções em relação às plataformas de IA com o aplicativo.

“Os criadores de conteúdo desejam uma maneira simples de indicar que não querem que seu conteúdo seja utilizado para treinamento de IA generativa. Ouvimos de pequenos criadores e agências que eles querem mais controle sobre suas criações [em termos de treinamento de IA em seu conteúdo],” disse Parson ao TechCrunch.

A Adobe também está lançando uma extensão do Chrome para que os usuários identifiquem imagens com credenciais de conteúdo.

A empresa afirmou que, com o aplicativo de credenciais de conteúdo, utiliza uma combinação de impressão digital digital, marcação de código aberto e metadados criptográficos para incorporar metadados em vários pixels de uma imagem, de modo que mesmo que a imagem seja modificada, os metadados permaneçam intactos. Isso significa que os usuários podem usar a extensão do Chrome para verificar credenciais de conteúdo em plataformas como Instagram que não suportam nativamente o padrão. Os usuários verão um pequeno símbolo “CR” em uma imagem se as credenciais de conteúdo estiverem anexadas a ela.

Em um mundo onde há muito debate sobre IA e arte, Parson diz que a C2PA não acredita em opinar ou direcionar sobre o que é arte. Mas ele acredita que as credenciais de conteúdo podem ser um marcador importante para a propriedade.

“Há uma área cinza [de quando uma imagem é editada usando IA, mas não é 100% gerada por IA], e o que estamos dizendo é para permitir que artistas e criadores assinem seu trabalho e reivindiquem a atribuição por isso. Isso não significa que a propriedade intelectual é legítima ou que é protegível por direitos autorais, mas apenas indica que alguém a fez,” disse Parson.

A Adobe afirmou que, embora sua nova ferramenta seja projetada para imagens, ela quer adicionar suporte para vídeo e áudio futuramente também.