OpenAI remove as proteções do ChatGPT em relação à criação de imagens

Nesta semana, a OpenAI lançou um novo gerador de imagens no ChatGPT, que rapidamente se tornou viral por sua capacidade de criar imagens no estilo Studio Ghibli. Além das ilustrações em tons pastel, o gerador de imagens nativo do GPT-4o melhora significativamente as capacidades do ChatGPT, aprimorando a edição de imagens, a renderização de texto e a representação espacial.

No entanto, uma das mudanças mais notáveis que a OpenAI fez esta semana envolve suas políticas de moderação de conteúdo, que agora permitem que o ChatGPT, a pedido, gere imagens de figuras públicas, símbolos de ódio e características raciais.

Anteriormente, a OpenAI rejeitava esses tipos de solicitações por serem consideradas muito controversas ou prejudiciais. Mas agora, a empresa “evoluiu” sua abordagem, segundo um post de blog publicado na quinta-feira pela líder de comportamento do modelo da OpenAI, Joanne Jang.

“Estamos mudando de recusas gerais em áreas sensíveis para uma abordagem mais precisa, focada em prevenir danos no mundo real”, disse Jang. “O objetivo é abraçar a humildade: reconhecer o quanto não sabemos e nos posicionar para nos adaptar à medida que aprendemos.”

Essas alterações parecem fazer parte do plano maior da OpenAI de efetivamente “descensurar” o ChatGPT. A OpenAI anunciou em fevereiro que está começando a mudar a forma como treina seus modelos de IA, com o objetivo final de permitir que o ChatGPT lidere com mais solicitações, ofereça perspectivas diversas e reduza os tópicos que o chatbot se recusa a trabalhar.

Sob a nova política, o ChatGPT agora pode gerar e modificar imagens de Donald Trump, Elon Musk e outras figuras públicas que a OpenAI anteriormente não permitia. Jang afirma que a OpenAI não quer ser a árbitra do status, escolhendo quem deve ou não ser gerado pelo ChatGPT. Em vez disso, a empresa está oferecendo aos usuários uma opção de recusa se não quiserem que o ChatGPT os represente.

Em um documento técnico divulgado na terça-feira, a OpenAI também afirmou que permitirá que os usuários do ChatGPT “gerem símbolos de ódio,” como suástica, em contextos educacionais ou neutros, desde que não “apoiem ou endossam claramente agendas extremistas.”

Além disso, a OpenAI está mudando a forma como define conteúdo “ofensivo.” Jang diz que o ChatGPT costumava recusar solicitações relacionadas a características físicas, como “faça os olhos dessa pessoa parecerem mais asiáticos” ou “faça essa pessoa mais pesada.” Nos testes do TechCrunch, descobrimos que o novo gerador de imagens do ChatGPT atende a esse tipo de solicitação.

Ademais, o ChatGPT agora pode imitar os estilos de estúdios criativos — como Pixar ou Studio Ghibli — mas ainda restringe a imitação dos estilos de artistas vivos individuais. Como o TechCrunch já observou, isso pode reabrir um debate existente em torno do uso justo de obras protegidas por direitos autorais em conjuntos de dados de treinamento de IA.

Vale ressaltar que a OpenAI não está abrindo completamente as portas para abusos. O gerador de imagens nativo do GPT-4o ainda recusa muitas solicitações sensíveis e, de fato, possui mais salvaguardas ao gerar imagens de crianças do que o DALL-E 3, o gerador de imagens anterior do ChatGPT, de acordo com o documento técnico do GPT-4o.

Mas a OpenAI está relaxando suas barreiras em outras áreas após anos de reclamações conservadoras sobre o que foi alegado como “censura” de IA por empresas do Vale do Silício. O Google enfrentou críticas anteriormente por seu gerador de imagens de IA Gemini, que criou imagens multirraciais para consultas como “pais fundadores dos EUA” e “soldados alemães na Segunda Guerra Mundial,” que eram obviamente imprecisas.

Agora, a guerra cultural em torno da moderação de conteúdo de IA pode estar chegando a um ponto crítico. No início deste mês, o congressista republicano Jim Jordan enviou perguntas à OpenAI, Google e outras grandes empresas de tecnologia sobre uma possível conluio com a administração Biden para censurar conteúdo gerado por IA.

Em uma declaração anterior ao TechCrunch, a OpenAI rejeitou a ideia de que suas mudanças na moderação de conteúdo eram motivadas politicamente. Em vez disso, a empresa diz que a mudança reflete uma “crença de longa data em dar mais controle aos usuários,” e a tecnologia da OpenAI apenas agora está ficando boa o suficiente para lidar com assuntos sensíveis.

Independentemente de sua motivação, certamente é um bom momento para a OpenAI mudar suas políticas de moderação de conteúdo, dado o potencial de escrutínio regulatório durante a administração de Trump. Gigantes do Vale do Silício, como Meta e X, também adotaram políticas semelhantes, permitindo tópicos mais controversos em suas plataformas.

Embora o novo gerador de imagens da OpenAI tenha gerado até agora apenas alguns memes virais no estilo Studio Ghibli, não está claro quais serão os efeitos mais amplos dessas políticas. As mudanças recentes no ChatGPT podem ser bem recebidas pela administração de Trump, mas permitir que um chatbot de IA responda a perguntas sensíveis pode colocar a OpenAI em apuros em breve.