Pinterest lança novas ferramentas para combater conteúdos gerados por IA de baixa qualidade

O Pinterest anunciou finalmente que tomará medidas em relação à grande quantidade de conteúdo gerado por IA que tomou conta de sua plataforma.

Após um aumento no número de reclamações, o site de rede social e pinboard de imagens anunciou na quarta-feira um plano para começar a rotular imagens geradas e modificadas por IA. Também introduzirá uma nova opção que permitirá aos usuários reduzir o número de Pins gerados por IA que veem.

Os novos recursos indicam o quão sério é a ameaça da IA generativa para plataformas baseadas em conteúdo gerado pelo usuário, crowdsourcing e compartilhamento social. A tecnologia de IA possibilitou que atores mal-intencionados inundassem essas plataformas com imagens falsas, ofuscando o conteúdo criado por humanos, desvalorizando a experiência geral. Os Pins gerados por IA e outros conteúdos de baixa qualidade — frequentemente referidos como “sopa de IA” — geraram uma reação negativa entre a base de usuários leais do Pinterest.

Agora o Pinterest diz que ajudará os usuários a identificar mais facilmente o que é gerado por IA e o que não é.

Quando os usuários clicarem em um Pin em close-up, verão um rótulo “modificado por IA” no canto inferior esquerdo. A empresa diz que analisará os metadados da imagem para ajudar a determinar o que é IA, mas também desenvolveu seu próprio sistema de classificadores que detectará automaticamente conteúdo de IA que “não tem marcadores óbvios”.

Os criadores poderão contestar ao Pinterest se seu conteúdo for rotulado incorretamente, segundo a empresa.

Mais importante ainda, o Pinterest afirma que dará aos usuários mais controle sobre a quantidade de conteúdo gerado por IA que eles veem em um recurso que será lançado em breve.

Quando estiver disponível, os usuários poderão selecionar uma opção de “ver menos” em Pins GenAI em certas categorias — como beleza e arte — que são propensas a serem invadidas por conteúdo de IA. Com o tempo, essa opção será expandida para outras categorias também.

Quando disponível, a opção será encontrada no menu de três pontos no canto inferior direito de um Pin. Clicar nisso enviará um sinal para os sistemas do Pinterest recomendar menos conteúdo de IA aos usuários, conforme explica a empresa em um post de blog.

O Pinterest não informou quando a nova configuração de controle será lançada — apenas que chegará “em breve”.

Para um site como o Pinterest, que atrai usuários para navegar e salvar imagens aspiracionais em áreas como moda, decoração, viagens, arte, receitas, DIY, beleza, dicas de parentalidade e mais, um dilúvio de conteúdo gerado por IA poderia realmente prejudicar o site. Alguns usuários já declraram que o site está morto devido à imagem gerada por IA que tomou conta.

No Reddit, por exemplo, usuários têm protestado contra a invasão da sopa de IA no Pinterest por meses, observando um aumento considerável nesse tipo de conteúdo de baixo valor. Eles afirmam que imagens geradas por IA estão se espalhando pelo site, seja ao navegar pelo conteúdo, pesquisar ou visualizar sugestões de quadros. A mídia também documentou o declínio em artigos ponderando se a IA já arruinou a plataforma ou se pode ser consertada.

O Pinterest afirma que planeja introduzir mais ferramentas nos próximos meses para expandir seu trabalho com IA, acrescentando que ainda acredita que a GenAI pode ser inspiradora, quando implementada de maneira consciente.

“À medida que as pessoas encontram conteúdo gerado por IA no Pinterest, estamos capacitando nossos usuários a tomar decisões mais informadas sobre o conteúdo que veem,” disse o CTO Matt Madrigal em uma declaração. “O conteúdo GenAI no Pinterest deve aumentar a capacidade dos usuários de descobrir e agir sobre sua inspiração, e estamos abordando essa nova paisagem de maneira consciente que beneficia todos no Pinterest.”