ServiceTitan identifica LLMs da Microsoft e OpenAI como fatores de risco

Todo prospecto S-1 de IPO inclui uma seção listando diversos fatores de risco sobre por que suas ações podem não ser uma boa compra. Muitos deles são advertências tradicionais, cautelas em relação ao desempenho financeiro ou consequências de guerras e desastres naturais. Porém, alguns são mais específicos para a empresa. 

Com a ServiceTitan, uma startup de serviços em nuvem que apresentou documentos de IPO públicos à SEC nesta segunda-feira, podemos estar testemunhando o surgimento de uma nova advertência padrão: modelos de linguagem grande (LLMs) que ajudam a expandir negócios também podem causar danos.

A ServiceTitan destacou um fator de risco de 1.150 palavras sobre como o uso de IA, especificamente IA generativa, poderia impactar negativamente seus negócios. A empresa alertou que o comportamento alucinatório dos LLMs poderia produzir informações “inexatas” e engajar-se em comportamentos “discriminatórios”; seus LLMs poderiam infringir direitos autorais ou propriedade intelectual de terceiros; e o uso de LLMs significa expor mais dados a potenciais invasões e danos. Além disso, se não conseguir obter dados suficientes, pode não conseguir continuar oferecendo produtos de IA ou desenvolver novos. Além disso, a empresa aconselha que seus funcionários ou contratados poderiam acidentalmente compartilhar dados privados de seus clientes com sistemas de terceiros, o que poderia levar a violações de segurança, ou usar esses dados para treinar seus modelos.

A ServiceTitan alerta que seu uso de IA pode um dia estar em desacordo com questões sociais e éticas. Ou que regulamentações futuras poderiam custar dinheiro.

A ServiceTitan também teme que não consiga contratar os especialistas em IA necessários para seus produtos e, mesmo que consiga, esse talento será caro. A empresa alerta que seus produtos de IA dependem de serviços de terceiros que não controla — citando especificamente a Microsoft e a OpenAI. Assim, se esses serviços se tornarem indisponíveis ou apresentarem problemas, isso representa um risco também.

Essas advertências são interessantes porque a ServiceTitan atua na interseção das indústrias que se espera que a GenAI, especificamente agentes de IA impulsionados por LLM, domine. A ServiceTitan oferece software para empresas da indústria de serviços de campo — principalmente pequenas empresas, como empreiteiros de construção, profissionais de HVAC, jardineiros e similares. Seu software desempenha funções como marketing, gerenciamento de relacionamento com o cliente, suporte ao cliente e contabilidade. (A ServiceTitan se absteve de comentar mais.)

Os agentes de IA estão atualmente avançando de forma tão rápida em tudo que diz respeito a vendas, marketing e CRM que o rei do mercado de CRM, o CEO da Salesforce, Marc Benioff, afirmou ao TechCrunch que sua empresa sozinha poderia ter um bilhão de agentes de IA trabalhando nas empresas clientes da Salesforce em um ano.

A ServiceTitan oferece serviços com IA desde pelo menos 2023, chamados Titan Intelligence. Em outubro, também lançou um conjunto de agentes de IA para vendas, atendimento ao cliente e call centers.

Mas os LLMs foram projetados para estudar palavras, imagens e dados e criar suas próprias versões das coisas. Ou seja, eles foram projetados para inventar. Os cientistas da OpenAI estão correndo em direção à inteligência geral — imitando a capacidade humana de inferir de forma ainda melhor — o que significa que estão trabalhando em IA que esperam ser ainda mais criativa.

Certamente, a confiabilidade dos LLMs para uso comercial é algo que deve ser resolvido ao longo do tempo à medida que mais empresas se especializarem em agentes onde confiabilidade, não criatividade, é essencial. Mas vale a pena notar que aqueles que estão vendendo bots de IA hoje estão, na verdade, dizendo a parte silenciosa em sua linguagem legal: neste estágio inicial, a adoção de IA pode criar tantos problemas quanto resolve.