Como começar com agentes de IA (e fazer isso da maneira certa)

Devido à natureza acelerada da IA e ao medo de ficar para trás (FOMO), as iniciativas de IA generativa costumam ser impulsionadas de cima para baixo, e os líderes empresariais tendem a ficar excessivamente empolgados com a tecnologia revolucionária. No entanto, quando as empresas apressam a construção e implementação, muitas vezes enfrentam todos os problemas típicos que ocorrem com outras implementações de tecnologia. A IA é complexa e requer especialização, o que significa que algumas organizações rapidamente se veem em uma situação complicada.

Na verdade, a Forrester prevê que quase três quartos das organizações que tentam construir agentes de IA internamente fracassarão.

“O desafio é que essas arquiteturas são complicadas, exigindo múltiplos modelos, pilhas avançadas de RAG (geração aumentada por recuperação), arquiteturas de dados avançadas e especialização específica”, escrevem os analistas da Forrester, Jayesh Chaurasia e Sudha Maheshwari.

Como, então, as empresas podem decidir quando adotar modelos de terceiros, ferramentas de código aberto ou construir modelos personalizados e ajustados internamente? Especialistas compartilham seus pontos de vista.

A arquitetura de IA é muito mais complexa do que as empresas pensam

Organizações que tentam construir agentes sozinhas costumam lutar com geração aumentada por recuperação (RAG) e bancos de dados vetoriais, disse Rowan Curran, analista sênior da Forrester, ao VentureBeat. Pode ser um desafio obter saídas precisas em prazos esperados, e as organizações nem sempre entendem o processo — ou a importância — da reclassificação, que ajuda a garantir que o modelo esteja trabalhando com dados da mais alta qualidade.

Por exemplo, um usuário pode inserir 10.000 documentos e o modelo pode retornar os 100 mais relevantes para a tarefa em questão, apontou Curran. No entanto, janelas de contexto curtas limitam o que pode ser alimentado para reclassificação. Assim, um usuário humano pode ter que fazer uma decisão e escolher 10 documentos, reduzindo assim a precisão do modelo.

Curran observou que sistemas RAG podem levar de 6 a 8 semanas para serem construídos e otimizados. Por exemplo, a primeira iteração pode ter uma taxa de precisão de 55% antes de qualquer ajuste; o segundo lançamento pode ter 70%, e o lançamento final idealmente se aproximará de 100%.

Os desenvolvedores precisam entender a disponibilidade (e qualidade) dos dados e como reclassificar, iterar, avaliar e fundamentar um modelo (ou seja, fazer corresponder as saídas do modelo a fontes relevantes e verificáveis). Além disso, ajustar a temperatura determina quão criativo um modelo será — mas algumas organizações estão “realmente restritas” em relação à criatividade, limitando as coisas, disse Curran.

“Houve a percepção de que há um botão fácil ao redor disso”, ele observou. “Não há realmente.”

Um grande esforço humano é necessário para construir sistemas de IA, disse Curran, enfatizando a importância de testes, validação e suporte contínuo. Tudo isso requer recursos dedicados.

“Pode ser complexo obter um agente de IA implementado com sucesso”, concordou Naveen Rao, VP de IA na Databricks e fundador e ex-CEO da MosaicAI. As empresas precisam ter acesso a vários modelos de linguagem de grande porte (LLMs) e também a capacidade de governar e monitorar não apenas agentes e modelos, mas também os dados e ferramentas subjacentes. “Esse não é um problema simples e, com o passar do tempo, haverá uma vigilância cada vez maior sobre o que e como os dados estão sendo acessados pelos sistemas de IA.”

Fatores a considerar ao explorar agentes de IA

Ao considerar opções para implementar agentes de IA — de terceiros, de código aberto ou personalizados — as empresas devem adotar uma abordagem controlada e tática, aconselham os especialistas.

Comece considerando várias perguntas e fatores importantes, recomendou Andreas Welsch, fundador e principal estrategista de IA da empresa de consultoria Intelligence Briefing. Estes incluem:

• Onde sua equipe gasta a maior parte de seu tempo?
• Quais tarefas ou etapas nesse processo consomem mais tempo?
• Quão complexas são essas tarefas? Elas envolvem sistemas de TI e dados acessíveis?
• O que ser mais rápido ou mais econômico permitiria que sua empresa fizesse? E como (e se) você pode medir os parâmetros de comparação?

É também importante considerar licenças e assinaturas existentes, apontou Welsch. Converse com representantes de vendas de software para entender se sua empresa já tem acesso a capacidades de agentes e, em caso afirmativo, o que seria necessário para utilizá-las (como complementos ou assinaturas de nível superior).

A partir daí, procure oportunidades em uma função de negócio. Por exemplo: “Onde sua equipe passa tempo em várias etapas manuais que não podem ser descritas em código?” Depois, ao explorar agentes, conheça seu potencial e “triagem” gaps existentes.

Além disso, certifique-se de capacitar e educar as equipes, mostrando-lhes como os agentes podem ajudar em seu trabalho. “E não tenha medo de mencionar as limitações dos agentes também,” disse Welsch. “Isso ajudará você a gerenciar as expectativas.”

Construa uma estratégia, adote uma abordagem cross-functional

Ao desenvolver uma estratégia de IA corporativa, é importante adotar uma abordagem cross-functional, enfatizou Curran. Organizações de sucesso envolvem vários departamentos nesse processo, incluindo liderança empresarial, equipes de desenvolvimento de software e ciência de dados, gerentes de experiência do usuário e outros.

Construa um roteiro baseado nos princípios e objetivos centrais do negócio, ele aconselhou. “Quais são nossos objetivos como organização e como a IA nos permitirá alcançá-los?”

Pode ser difícil, sem dúvida, porque a tecnologia está se movendo tão rapidamente, reconheceu Curran. “Não há um conjunto de melhores práticas, frameworks,” disse ele. Poucos desenvolvedores têm experiência em integrações pós-lançamento e DevOps quando se trata de agentes de IA. “As habilidades para construir essas coisas ainda não foram desenvolvidas e quantificadas de uma forma ampla.”

Como resultado, as organizações lutam para tirar projetos de IA (de todos os tipos) do papel, e muitas eventualmente recorrem a uma consultoria ou a um dos fornecedores de tecnologia existentes que têm os recursos e a capacidade de construir em cima de suas pilhas de tecnologia. Em última análise, as organizações terão mais sucesso quando trabalharem em estreita colaboração com seus parceiros.

“Os provedores de terceiros provavelmente terão a capacidade de acompanhar as últimas tecnologias e arquitetura para construir isso,” disse Curran.

Isso não quer dizer que é impossível construir agentes personalizados internamente; muito pelo contrário, observou ele. Por exemplo, se uma empresa tiver uma equipe de desenvolvimento interna robusta e uma arquitetura de RAG e aprendizado de máquina (ML), pode usá-la para criar sua própria IA agente. Isso também é verdade se “tiver seus dados bem governados, documentados e etiquetados” e não tiver uma “grande bagunça” em sua estratégia de API, enfatizou.

De qualquer forma, as empresas devem considerar as necessidades pós-implantação contínuas em suas estratégias de IA desde o início.

“Não há almoço grátis após a implantação,” disse Curran. “Todos esses sistemas requerem algum tipo de manutenção e suporte pós-lançamento, ajustes e modificações contínuas para mantê-los precisos e torná-los mais precisos ao longo do tempo.”