Dentro da atualização GenOS da Intuit: Por que a otimização de prompts e a cognição inteligente de dados são essenciais para o sucesso da IA agente nas empresas.

As equipes de IA nas empresas enfrentam um dilema caro: construir sistemas de agentes sofisticados que as prendem a fornecedores específicos de grandes modelos de linguagem (LLM) ou reescrever constantemente prompts e pipelines de dados ao alternar entre modelos. O gigante de tecnologia financeira Intuit resolveu esse problema com uma inovação que pode transformar a forma como as organizações abordam arquiteturas de IA multi-modelo.

Como muitas empresas, a Intuit construiu soluções impulsionadas por IA generativa usando vários grandes modelos de linguagem (LLMs). Nos últimos anos, a plataforma Sistema Operacional de IA Generativa (GenOS) da Intuit vem avançando continuamente, proporcionando capacidades avançadas aos desenvolvedores e usuários finais da empresa, como o Intuit Assist. A empresa tem se concentrado cada vez mais em fluxos de trabalho de IA agente que tiveram um impacto mensurável nos usuários dos produtos da Intuit, que incluem QuickBooks, Credit Karma e TurboTax.

A Intuit está agora expandindo o GenOS com uma série de atualizações que visam melhorar a produtividade e a eficiência geral da IA. As melhorias incluem um Kit de Início de Agente que capacitou 900 desenvolvedores internos a construir centenas de agentes de IA em cinco semanas. A empresa também está apresentando o que chama de uma “camada de cognição de dados inteligente” que supera as abordagens tradicionais de geração aumentada por recuperação.

Talvez ainda mais impactante seja o fato de que a Intuit resolveu um dos problemas mais complicados da IA empresarial: como construir sistemas de agentes que funcionem perfeitamente entre vários grandes modelos de linguagem sem forçar os desenvolvedores a reescrever prompts para cada modelo.

“O problema-chave é que quando você escreve um prompt para um modelo, o modelo A, você tende a pensar sobre como o modelo A está otimizado, como foi construído e o que precisa ser feito e quando você precisa mudar para o modelo B”, disse Ashok Srivastava, Chief Data Officer da Intuit à VentureBeat. “A questão é, você tem que reescrevê-lo? E no passado, era necessário reescrevê-lo.”

Como algoritmos genéticos eliminam o bloqueio de fornecedores e reduzem os custos operacionais da IA

As organizações descobriram várias maneiras de usar diferentes LLMs em produção. Uma abordagem é usar alguma forma de tecnologia de roteamento de modelos LLM, que utiliza um LLM menor para determinar para onde enviar uma consulta.

O serviço de otimização de prompts da Intuit está adotando uma abordagem diferente. Não se trata necessariamente de encontrar o melhor modelo para uma consulta, mas sim de otimizar um prompt para qualquer número de LLMs diferentes. O sistema usa algoritmos genéticos para criar e testar variantes de prompts automaticamente.

“A forma como o serviço de tradução de prompts funciona é que possui algoritmos genéticos em seu componente, e esses algoritmos genéticos realmente criam variantes do prompt e depois fazem a otimização interna,” explicou Srivastava. “Eles começam com um conjunto base, criam uma variante, testam a variante, se essa variante for efetiva, então diz, vou criar essa nova base e continua a otimizar.”

Essa abordagem oferece benefícios operacionais imediatos além da conveniência. O sistema fornece capacidades automáticas de fallback para empresas preocupadas com bloqueio de fornecedores ou confiabilidade do serviço.

“Se você está usando um certo modelo, e por qualquer motivo esse modelo falha, podemos traduzi-lo para que possamos usar um novo modelo que talvez esteja operacional,” observou Srivastava.

Além do RAG: Cognição de dados inteligente para dados empresariais

Enquanto a otimização de prompts resolve o desafio da portabilidade do modelo, os engenheiros da Intuit identificaram outro gargalo crítico: o tempo e a experiência necessários para integrar IA com arquiteturas de dados empresariais complexas.

A Intuit desenvolveu o que chama de “camada de cognição de dados inteligente” que enfrenta desafios de integração de dados mais sofisticados. A abordagem vai muito além da simples recuperação de documentos e geração aumentada por recuperação (RAG).

Por exemplo, se uma organização recebe um conjunto de dados de um terceiro com um esquema específico que a organização mal conhece, a camada de cognição pode ajudar. Ele observou que a camada de cognição entende o esquema original, bem como o esquema-alvo e como mapeá-los.

Essa capacidade aborda cenários empresariais do mundo real onde os dados vêm de várias fontes com estruturas diferentes. O sistema pode determinar automaticamente o contexto que uma simples correspondência de esquema perderia.

Além da IA generativa, como o ‘super modelo’ da Intuit ajuda a melhorar previsões e recomendações

A camada de cognição de dados inteligente permite integração sofisticada de dados, mas a vantagem competitiva da Intuit vai além da IA generativa em como combina essas capacidades com análises preditivas comprovadas.

A empresa opera o que chama de “Super Modelo” – um sistema de ensemble que combina múltiplos modelos de previsão e abordagens de aprendizado profundo para previsão, além de sofisticados motores de recomendação.

Srivastava explicou que o supermodelo é um modelo supervisor que examina todos os sistemas de recomendação subjacentes. Ele considera quão bem essas recomendações funcionaram em experimentos e no campo e, com base em todos esses dados, toma uma abordagem de conjunto para fazer a recomendação final. Essa abordagem híbrida permite capacidades preditivas que sistemas puramente baseados em LLM não podem igualar.

A combinação de IA agente com previsões ajudará as organizações a olhar para o futuro e ver o que pode acontecer, por exemplo, com uma questão relacionada ao fluxo de caixa. O agente poderia, então, sugerir mudanças que podem ser feitas agora com a permissão do usuário para ajudar a prevenir problemas futuros.

Implicações para a estratégia de IA empresarial

A abordagem da Intuit oferece várias lições estratégicas para empresas que buscam liderar na adoção de IA.

Primeiro, investir em arquiteturas independentes de LLM desde o início pode proporcionar flexibilidade operacional significativa e mitigação de riscos. A abordagem de algoritmo genético para otimização de prompts pode ser particularmente valiosa para empresas que operam em vários provedores de nuvem ou que estão preocupadas com a disponibilidade do modelo.

Em segundo lugar, a ênfase em combinar capacidades tradicionais de IA com IA generativa sugere que as empresas não devem abandonar os sistemas de previsão e recomendação existentes ao construir arquiteturas de agentes. Em vez disso, devem procurar maneiras de integrar essas capacidades em sistemas de raciocínio mais sofisticados.

Essa notícia significa que a barra para implementações sofisticadas de agentes está sendo elevada para empresas que adotam IA mais tarde no ciclo. As organizações devem pensar além de chatbots simples ou sistemas de recuperação de documentos para se manterem competitivas, focando em arquiteturas multiagentes que possam lidar com fluxos de trabalho comerciais complexos e análises preditivas.

A principal conclusão para tomadores de decisão técnica é que implementações bem-sucedidas de IA empresarial requerem investimentos em infraestrutura sofisticada, não apenas chamadas de API para modelos fundamentais. O GenOS da Intuit demonstra que a vantagem competitiva vem de quão bem as organizações podem integrar capacidades de IA com seus dados e processos de negócios existentes.