LlamaIndex lança um serviço em nuvem para criação de agentes de dados não estruturados

Os agentes são a próxima grande novidade em IA. Embora algumas definições de “agentes” variem, a ideia geral é que se tratam de ferramentas impulsionadas por IA que podem executar tarefas de forma autônoma.

O entusiasmo em torno dos agentes alcançou níveis elevados, mas uma startup foi relativamente precoce no mercado: LlamaIndex. Fundada por ex-cientistas de pesquisa da Uber, Jerry Liu e Simon Suo, em 2023, a LlamaIndex permite que desenvolvedores criem agentes personalizados sobre dados não estruturados.

“A LlamaIndex começou como um projeto open source experimental em novembro de 2022,” Liu disse ao TechCrunch. “Fiquei profundamente interessado em entender como modelos de linguagem grandes (LLMs) poderiam ser usados em dados proprietários fora de seu conjunto de treinamento e criei um conjunto inicial de ferramentas que possibilitam aos desenvolvedores indexar e incluir dados em seus aplicativos LLM.”

Usando o software open source da LlamaIndex, que acumulou milhões de downloads no GitHub, os desenvolvedores podem criar agentes personalizados que extraem informações, geram relatórios e insights e realizam ações específicas. A LlamaIndex fornece conectores de dados e utilitários como o LlamaParse, que transforma dados não estruturados em um formato estruturado que pode ser utilizado para aplicações de IA específicas.

Enquanto existem outras estruturas open source para construir agentes de IA, a LlamaIndex se destaca por seu conjunto de soluções de ingestão de dados, gerenciamento de dados e indexação e recuperação de dados, disse Liu. Ela pode conectar dados de arquivos como PDFs e apresentações em PowerPoint, assim como de aplicativos como Notion e Slack, a um agente.

Salesforce, KPMG e Carlyle estão entre as empresas que utilizam a LlamaIndex atualmente, afirmou Liu.

“Todas essas soluções concorrentes resolvem problemas específicos em diferentes partes da pilha de IA generativa, mas é responsabilidade do desenvolvedor juntar soluções fragmentadas para criar um agente funcional,” acrescentou Liu. “Esse é um ponto de dor significativo que dificulta a implementação de agentes em produção. A LlamaIndex tem como missão entregar a plataforma mais segura, precisa e fácil de usar para construir agentes de conhecimento de ponta a ponta.”

O próximo capítulo da LlamaIndex é um serviço empresarial construído sobre as ofertas open source da empresa. Chamado de LlamaCloud, ele permite que os clientes criem agentes hospedados na nuvem que podem trabalhar e manipular dados não estruturados em vários formatos.

O LlamaCloud pode ser implantado via uma instalação como serviço de software ou em uma nuvem privada virtual, e vem com recursos como controle de acesso baseado em função e autenticação única, disse Liu.

Em parte para ajudar a financiar o desenvolvimento do LlamaCloud, a LlamaIndex levantou recentemente US$ 19 milhões em uma rodada de financiamento Série A liderada pela Norwest Venture Partners, com participação da Greylock também. O novo capital eleva o total de recursos captados pela LlamaIndex para US$ 27,5 milhões, e Liu afirma que isso será usado para expandir a equipe de 20 pessoas da LlamaIndex e o desenvolvimento do produto.

“Temos capital suficiente para nos levar durante a expansão comercial inicial de nossa plataforma,” disse Liu. “Estamos apostando em um futuro onde os desenvolvedores desempenham um papel importante na entrega de aplicações de GenAI dentro da empresa.”