É Hora de Redefinirmos o Que 'Confiança' Significa com a IA

A personalização é onde a IA se destaca, e é por isso que a movimentação do Gemini em direção à personalização é significativa para a IA conversacional, mais especificamente. A capacidade da IA em personalizar experiências através de ferramentas de conversa, análises preditivas e conteúdo curado torna as interações mais fluidas e relevantes. Considere como a Netflix constrói engajamento por meio da personalização e a Spotify utiliza IA para enriquecer a descoberta musical de maneiras que melhoram a experiência de ouvir. Como resultado, ambas atraíram e mantiveram centenas de milhões de assinantes.

O empoderamento, por outro lado, envolve a IA dando às pessoas autonomia. O recurso de Limpeza de Fotos da Apple (disponível para modelos mais recentes do iPhone) ajuda fotógrafos a editar seu trabalho removendo objetos indesejados das fotos, como se estivesse segurando o Photoshop em suas mãos.

Mais geralmente, a IA empodera os usuários todos os dias de maneiras menos óbvias, mas ainda assim importantes. Por exemplo, em automóveis, o controle de cruzeiro adaptativo usa IA com radares e câmeras para ajustar a velocidade com base no tráfego. O motorista define as preferências de velocidade e distância; a IA cuida dos microajustes, liberando o motorista para se concentrar na direção e nas decisões, como um copiloto.

Levando os consumidores junto na jornada

A IA conversacional tem uma oportunidade de ganhar nossa confiança com mais transparência. Como está, a confiança do consumidor na IA generativa é uma questão mista, moldada por uma combinação de entusiasmo por suas capacidades e ceticismo. Uma pesquisa da SEMRush de 2024 relatou uma desconfiança generalizada na precisão dos resultados de busca gerados por IA. Cerca de 60% dos usuários entrevistados queriam mais segurança, obtendo dados mais precisos e fontes incluídas nos resultados de busca. Em outras palavras, a IA conversacional enfrenta um desafio na componente de “valor” da confiança.

Os consumidores não precisam que a IA seja perfeita, mas precisam entender suas imperfeições, e precisam saber o que os provedores de IA conversacional estão fazendo para melhorar a precisão e injetar rigor. A Perplexity, por exemplo, usa notas de rodapé em suas respostas geradas por IA, permitindo que os usuários vejam de onde a informação é proveniente. No entanto, mesmo assim, a Perplexity comete erros ao tirar conclusões erradas com base nessas fontes. Os provedores de IA poderiam construir confiança oferecendo rastreamento de erros em tempo real ou relatórios públicos que documentem tanto os progressos quanto os desafios.

Além da transparência, a confiança floresce quando os consumidores sentem que têm voz ativa. Os provedores de aplicativos de IA generativa podem ganhar confiança mostrando como capacitam as pessoas a melhorar o que fazem, e não a substituir nosso trabalho. As empresas de IA também poderiam envolver os usuários na co-criação, seja através de ciclos de feedback, testes beta, ou personalização. Um assistente de IA que periodicamente verifica com um “Eu acertei isso?” é o tipo de construção de confiança participativa que transforma a IA de uma caixa-preta em um colaborador.