Innocean EUA Mobiliza Agências para Promover Dados de Treinamento de IA Diversificados

Durante a produção de seu documentário, “Wade in the Water: A Journey into Black Surfing and Aquatic Culture”, David Mesfin enfrentou um problema preocupante: os resultados de imagens de surfistas negros no Midjourney eram consistentemente imprecisos.

“Toda vez que eu fazia uma pesquisa ou um prompt, recebia um surfista branco, mas com pele escura. Os dados simplesmente não estavam disponíveis,” disse Mesfin, vice-presidente e diretor criativo da INNOCEAN USA, à ADWEEK. “Representação não diz respeito apenas à inclusão. Neste caso, trata-se de precisão.”

A experiência de Mesfin levou a INNOCEAN USA a se juntar à Breaking Bias, uma iniciativa criada pela base de dados de imagens diversas POC Stock, que visa abordar o viés da IA, criando conjuntos de dados que representem com mais precisão as comunidades BIPOC.

A INNOCEAN USA tem sido um parceiro fundamental nesse esforço, unindo mais de 22 agências em torno da causa, incluindo FCB Global e David&Goliath.

“A IA é tão boa quanto o conjunto de dados [que a treina]”, disse Steve Jun, CEO da INNOCEAN USA, à ADWEEK. “Quando a equipe explicou que uma ação tão simples poderia ajudar a resolver um problema complexo, sabíamos que apoiar este projeto era a coisa certa a fazer.”

As agências envolvidas na iniciativa Breaking Bias estão utilizando imagens do POC Stock, junto com metadados detalhados, para ajudar a re-treinar modelos de IA, explicou DeSean Brown, diretor de relações da POC Stock. Assim que cada imagem é aprovada por um curador humano, a POC Stock revisa e reclassifica os metadados “para aderir a uma representação autêntica e precisa.”

“Isso inclui anotar raça, etnia, gênero e fluência cultural,” disse ele, acrescentando que o processo inclui várias rodadas de revisão antes que as imagens sejam aprovadas para treinamento da IA.

“Quando se trata de uma representação precisa da comunidade BIPOC, [a IA] ainda carece de autenticidade e muitas vezes reforça estereótipos,” disse David Angelo, fundador e presidente criativo da David&Goliath. “Se fizermos isso coletivamente, a IA se corrigirá.”

O viés da IA tem sido uma preocupação antiga entre as agências. Em 2023, agências hispânicas como Lerma e Alma expressaram preocupações sobre estereótipos em ferramentas de IA como o Midjourney. Em 2024, o Brandtech Group lançou o Bias Breaker, uma tecnologia projetada para corrigir fatores de identidade como raça, gênero e idade no conteúdo de IA. No mesmo ano, a Mastercard desenvolveu o Mastercard Small Business AI, um chatbot de IA generativa projetado para atender às necessidades e perspectivas de proprietários de negócios multiculturais e minoritários.