Co-fundador do Instagram alerta que chatbots de IA estão 'aumentando o engajamento' em vez de serem úteis

O cofundador do Instagram, Kevin Systrom, afirma que as empresas de IA estão tentando exagerar na “engajamento” ao incomodar os usuários com perguntas de acompanhamento, em vez de fornecer insights realmente úteis.

Systrom disse que essas táticas representam “uma força que está nos prejudicando”, comparando-as às usadas por empresas de mídia social para uma expansão agressiva.

“Podemos ver algumas dessas empresas entrando na mesma armadilha que todas as empresas de consumo caíram ao tentar aumentar o engajamento,” ele disse na StartupGrind esta semana. “Toda vez que faço uma pergunta, no final ela faz outra pergunta para ver se consegue mais uma pergunta minha.”

Os comentários vêm em meio a críticas ao ChatGPT por ser muito gentil com os usuários em vez de responder diretamente às suas perguntas. A OpenAI se desculpou pelo problema e culpou o “feedback de curto prazo” dos usuários por isso.

Systrom sugeriu que chatbots excessivamente engajadores não são um erro, mas uma característica intencional projetada para que as empresas de IA possam exibir métricas como tempo gasto e usuários ativos diários. As empresas de IA deveriam estar “focadas” em fornecer respostas de alta qualidade em vez de manipular métricas da maneira mais fácil possível, afirmou ele.

Systrom não mencionou nenhuma empresa de IA específica em seus comentários. Ele não respondeu imediatamente a um pedido de comentário.

Em resposta, a OpenAI apontou ao TechCrunch suas especificações para usuários, que afirmam que seu modelo de IA “frequentemente não possui todas as informações” para fornecer uma boa resposta e pode pedir “esclarecimentos ou mais detalhes.”

Mas, a menos que as perguntas sejam muito vagas ou difíceis de responder, a IA deveria “tentar atender ao pedido e informar ao usuário que poderia ser mais útil com certas informações,” afirmam as especificações.