A IA está nos deixando burros?

Pesquisadores da Microsoft e da Carnegie Mellon University recentemente publicaram um estudo que analisa como o uso de IA generativa no trabalho afeta as habilidades de pensamento crítico.

“Quando usadas de maneira inadequada, as tecnologias podem e de fato resultam na deterioração de faculdades cognitivas que deveriam ser preservadas”, afirma o artigo.

Quando as pessoas dependem da IA generativa no trabalho, seu esforço se desloca para verificar se a resposta da IA é boa o suficiente para uso, em vez de utilizar habilidades de pensamento crítico de nível mais alto, como criar, avaliar e analisar informações. Se os humanos só intervêm quando as respostas da IA são insuficientes, diz o artigo, os trabalhadores são privados de “oportunidades rotineiras para praticar seu julgamento e fortalecer sua musculatura cognitiva, deixando-as atrofiadas e despreparadas quando as exceções surgem.”

Em outras palavras, quando confiamos demais na IA para pensar por nós, pioramos em resolver problemas por conta própria quando a IA falha.

Neste estudo com 319 pessoas, que relataram utilizar IA generativa pelo menos uma vez por semana no trabalho, os participantes foram solicitados a compartilhar três exemplos de como usam IA generativa no trabalho, que se enquadram em três categorias principais: criação (escrever um e-mail formulaico para um colega, por exemplo); informação (pesquisar um tópico ou resumir um artigo longo); e aconselhamento (pedir orientações ou criar um gráfico a partir de dados existentes). Em seguida, eles foram questionados se praticavam habilidades de pensamento crítico ao realizar a tarefa e se o uso de IA generativa fazia com que eles tivessem mais ou menos esforço para pensar criticamente. Para cada tarefa mencionada, os participantes também foram questionados sobre a confiança que tinham em si mesmos, na IA generativa e em sua capacidade de avaliar as saídas da IA.

Cerca de 36% dos participantes relataram que usaram habilidades de pensamento crítico para mitigar resultados negativos potenciais do uso da IA. Uma participante disse que usou o ChatGPT para escrever uma avaliação de desempenho, mas verificou a saída da IA com medo de que pudesse acidentalmente enviar algo que a faria ser suspensa. Outro participante relatou que teve que editar e-mails gerados pela IA que enviaria ao seu chefe — cuja cultura valoriza mais a hierarquia e a idade — para evitar cometer um faux pas. E, em muitos casos, os participantes verificaram as respostas geradas pela IA com buscas na web mais gerais em recursos como YouTube e Wikipedia, possivelmente derrotando o propósito de usar a IA em primeiro lugar.

Para que os trabalhadores compensem as deficiências da IA generativa, eles precisam entender como essas deficiências ocorrem. Mas nem todos os participantes estavam familiarizados com os limites da IA.

“Os potenciais danos subsequentes das respostas da GenAI podem motivar o pensamento crítico, mas apenas se o usuário estiver conscientemente ciente de tais danos”, lê-se no artigo.

De fato, o estudo descobriu que os participantes que relataram confiança na IA usaram menos esforço de pensamento crítico do que aqueles que relataram confiança em suas próprias habilidades.

Embora os pesquisadores sejam cautelosos em afirmar que ferramentas de IA generativa tornam as pessoas menos inteligentes, o estudo mostra que a dependência excessiva dessas ferramentas pode enfraquecer nossa capacidade de resolução independente de problemas.