Por que as empresas avaliam a IA como humanos — e o que isso significa para sua adoção

À medida que as empresas correm para adotar a IA, elas estão descobrindo uma verdade inesperada: mesmo os compradores mais racionais não estão tomando decisões puramente racionais — suas necessidades subconscientes vão muito além dos padrões convencionais de avaliação de softwares.

Deixe-me compartilhar uma anátema: É novembro de 2024; estou sentado em um arranha-céu de Nova York, trabalhando com uma marca de moda em seu primeiro assistente de IA. O avatar, Nora, é uma assistente digital de 25 anos exibida em um quiosque de dois metros de altura. Ela tem cabelos castanhos lisos, um terno preto elegante e um sorriso encantador. Ela acena um “oi” ao reconhecer o rosto de um cliente, acena enquanto eles falam e responde perguntas sobre a história da empresa e notícias de tecnologia. Eu me preparei com uma lista de verificação técnica padrão: precisão de resposta, latência de conversa, precisão de reconhecimento facial…

Mas meu cliente nem sequer olhou para a lista de verificação. Em vez disso, ele perguntou: “Por que ela não tem uma personalidade própria? Perguntei qual é a bolsa favorita dela, e ela não me respondeu!”

Mudando a forma como avaliamos a tecnologia

É impressionante como rapidamente esquecemos que esses avatares não são humanos. Embora muitos se preocupem com a IA borrando as linhas entre humanos e máquinas, vejo um desafio mais imediato para as empresas: uma mudança fundamental na forma como avaliamos a tecnologia.

Quando o software começa a parecer e agir como um humano, os usuários param de avaliá-lo como uma ferramenta e passam a julgá-lo como um ser humano. Esse fenômeno — julgar entidades não-humanas por padrões humanos — é antropomorfismo, que já foi bem estudado em relacionamentos entre humanos e animais de estimação e agora está emergindo nas interações entre humanos e IA.

Quando se trata de adquirir produtos de IA, as decisões empresariais não são tão racionais quanto você pode pensar, pois os tomadores de decisão ainda são humanos. Pesquisas mostram que percepções inconscientes moldam a maioria das interações humanas, e os compradores empresariais não são exceção.

Assim, as empresas que assinam um contrato de IA não estão apenas entrando em um “contrato de utilidade” buscando redução de custos ou crescimento de receita; estão entrando em um “contrato emocional” implícito. Muitas vezes, nem mesmo percebem isso.

Tornar o ‘bebê IA’ perfeito?

Embora todo produto de software sempre tenha tido um elemento emocional, quando o produto se torna infinitamente semelhante a um ser humano real, esse aspecto se torna muito mais proeminente e inconsciente.

Essas reações inconscientes moldam como seus funcionários e clientes interagem com a IA, e minha experiência me diz o quão amplas essas respostas são — elas são verdadeiramente humanas. Considere estes quatro exemplos e suas ideias psicológicas subjacentes:

Quando meu cliente em Nova York perguntou sobre a bolsa favorita de Nora, ansioso por sua personalidade, ele estava acessando a teoria da presença social, tratando a IA como um ser social que precisa estar presente e ser real.

Um cliente fixou-se no sorriso do avatar: “A boca mostra muitos dentes — é desconfortável.” Essa reação reflete o efeito do vale inquietante, onde características quase humanas provocam desconforto.

Por outro lado, um agente de IA visualmente atraente, mas menos funcional, gerou elogios devido ao efeito estético de usabilidade — a ideia de que a atratividade pode superar problemas de desempenho.

Outro cliente, um proprietário de empresa meticuloso, continuava adiando o lançamento do projeto. “Precisamos tornar nosso bebê IA perfeito,” repetia em todas as reuniões. “Ele precisa ser impecável antes que possamos mostrá-lo ao mundo.” Essa obsessão em criar uma entidade de IA idealizada sugere uma projeção de um eu ideal em nossas criações de IA, como se estivéssemos moldando uma entidade digital que incorpora nossas maiores aspirações e padrões.

O que é mais importante para o seu negócio?

Então, como você pode liderar o mercado aproveitando esses contratos emocionais ocultos e vencer seus concorrentes que estão apenas acumulando uma solução de IA sofisticada após a outra?

A chave é determinar o que importa para as necessidades únicas do seu negócio. Estabeleça um processo de teste. Isso não apenas ajudará você a identificar as principais prioridades, mas, mais importante, a despriorizar detalhes menores, não importa o quão emocionalmente convincentes sejam. Uma vez que o setor é tão novo, quase não há playbooks prontos para uso. Mas você pode ser o primeiro a estabelecer sua própria maneira de descobrir o que mais se adapta ao seu negócio.

Por exemplo, a pergunta do cliente sobre “a personalidade do avatar de IA” foi validada por meio de testes com usuários internos. Por outro lado, a maioria das pessoas não conseguia perceber a diferença entre as várias versões pelas quais o proprietário da empresa havia lutado em busca de seu “bebê IA perfeito,” o que significa que poderíamos parar em um ponto de “bom o suficiente.”

Para facilitar o reconhecimento de padrões, considere contratar membros da equipe ou consultores com um histórico em psicologia. Todos os quatro exemplos não são únicos, mas são efeitos psicológicos bem pesquisados que ocorrem em interações humanas.

Seu relacionamento com o fornecedor de tecnologia também deve mudar. Eles devem ser um parceiro que navega pela experiência com você. Você pode programar reuniões semanais com eles após assinar um contrato e compartilhar suas conclusões dos testes para que eles possam criar produtos melhores para você. Se você não tiver orçamento, pelo menos reserve tempo extra para comparar produtos e testar com os usuários, permitindo que esses “contratos emocionais” ocultos surjam.

Estamos na vanguarda da definição de como humanos e IA interagem. Líderes empresariais bem-sucedidos abraçarão o contrato emocional e estabelecerão processos para navegar na ambiguidade que os ajudará a conquistar o mercado.

Joy Liu liderou produtos empresariais em startups de IA e iniciativas de nuvem e IA na Microsoft.