O novo gerador de imagens do ChatGPT é excelente em falsificar recibos.

Neste mês, o ChatGPT lançou um novo gerador de imagens como parte de seu modelo 4o, que é muito mais eficiente na geração de texto dentro de imagens.

As pessoas já estão utilizando essa ferramenta para criar recibos de restaurantes falsos, acrescentando assim mais uma ferramenta ao já extenso arsenal de deepfakes de IA usados por golpistas.

O prolífico usuário das redes sociais e investidor Deedy Das publicou no X uma foto de um recibo falso de um (real) steakhouse em San Francisco que, segundo ele, foi criado com o 4o.

Outros conseguiram replicar resultados semelhantes, incluindo um que adicionou manchas de comida ou bebida para torná-lo ainda mais autêntico:

O exemplo mais realista que o TechCrunch encontrou foi, na verdade, da França, onde um usuário do LinkedIn postou um recibo gerado por IA amassado de uma cadeia de restaurantes local:

O TechCrunch testou o 4o e também conseguiu gerar um recibo falso para um Applebee’s em San Francisco:

No entanto, nossa tentativa teve alguns sinais claros de que era falso. Por um lado, o total usa uma vírgula em vez de um ponto. Além disso, a matemática não bate. Os LLMs ainda têm dificuldades com matemática básica, portanto isso não é particularmente surpreendente.

Mas não seria difícil para um golpista corrigir rapidamente alguns dos números com software de edição de fotos ou, possivelmente, com prompts mais precisos.

É evidente que facilitar a geração de recibos falsos apresenta enormes oportunidades para fraudes. Não seria difícil imaginar esse tipo de tecnologia sendo usada por indivíduos desonestos para obter “reembolsos” por despesas completamente falsas.

A porta-voz da OpenAI, Taya Christianson, disse ao TechCrunch que todas as suas imagens incluem metadados indicando que foram criadas pelo ChatGPT. Christianson acrescentou que a OpenAI “toma providências” quando os usuários violam suas políticas de uso e que está “sempre aprendendo” com o uso e feedback do mundo real.

O TechCrunch então questionou por que o ChatGPT permite que as pessoas gerem recibos falsos em primeiro lugar, e se isso está alinhado com as políticas de uso da OpenAI (que proíbem fraudes).

Christianson respondeu que o “objetivo da OpenAI é proporcionar aos usuários a maior liberdade criativa possível” e que recibos falsos de IA poderiam ser usados em situações não fraudulentas, como “educar as pessoas sobre alfabetização financeira”, além de criar arte original e anúncios de produtos.