Intel Capital impulsiona o financiamento de $19 milhões da TrueFoundry para ajudar a ampliar implementações de IA em grande escala.

TrueFoundry, uma startup dirigida por um grupo de ex-engenheiros da Meta para ajudar empresas a implementar sistemas de IA em larga escala, arrecadou US$ 19 milhões em um novo investimento liderado pela Intel Capital.

Com o surgimento da GenAI após o lançamento do ChatGPT em novembro de 2022, empresas de todos os tamanhos estão explorando maneiras de adotar a IA. Porém, a GenAI depende de grandes modelos de linguagem para fornecer inteligência (ou seja, eficiência), exigindo um poder computacional significativo. Nem todas as empresas têm acesso a centenas ou milhares de GPUs, tornando a otimização de GPUs essencial. Além disso, as empresas precisam experimentar diversos modelos para encontrar a melhor adaptação ao seu caso de uso e ajustar os modelos existentes para tornar os sistemas de IA relevantes para suas operações.

A TrueFoundry aborda tudo isso com seu software disponível sob um modelo de plataforma como serviço, voltado para cientistas de dados de full-stack. Ela oferece recursos como escalonamento automático, manutenção proativa, controles de acesso centralizados e monitoramento em tempo real para simplificar as implementações de IA do início ao fim.

Fundada em junho de 2021 por ex-engenheiros da Meta, Nikunj Bajaj e Abhishek Choudhary, junto com seu colega da IIT Kharagpur, Anuraag Gutgutia, a TrueFoundry inicialmente oferecia um software nativo multi-nuvem para acelerar as implementações de aprendizado de máquina. No entanto, à medida que a GenAI se tornou mainstream em 2023, a startup modificou seu sistema para suportar capacidades de GenAI.

“Antes, os cientistas de dados trabalhavam apenas com modelos e os experimentavam, mas grande parte da implantação era transferida para engenheiros de ML. Com nosso sistema, o que estamos permitindo é que os próprios cientistas de dados possam realmente construir todo esse sistema complexo e testá-lo em escala antes de entregá-lo à equipe de plataforma para as implantações finais”, disse Gutgutia em uma entrevista exclusiva.

A startup fornece uma solução de software chamada sistema de piloto automático, que utiliza IA para analisar logs e métricas a fim de ajudar a escalar as aplicações de IA ajustando o uso de GPUs e corrigindo requisitos de memória.

Usando o sistema de piloto automático, Gutgutia contou à TechCrunch que um dos clientes da TrueFoundry, com uma pequena equipe de duas pessoas, gerenciou 10 milhões de solicitações por segundo.

Atualmente, a TrueFoundry possui 30 clientes pagantes em todo o mundo, além de “muitos” usuários acessando sua estrutura RAG de código aberto para experimentação. Dentre esses clientes, o gigante de GPUs NVIDIA utiliza o software para construir e implantar agentes que otimizam seus clusters de GPU. A empresa de tecnologia médica Resmed também utiliza a oferta da TrueFoundry para desenvolver uma plataforma interna de IA. Da mesma forma, Siemens Healthineers, Automation Anywhere, Games24x7 e Whatfix estão entre os clientes.

A startup projetou seu software usando Kubernetes, o que o torna pronto para multi-nuvem e compatível com todas as principais plataformas de nuvem, incluindo AWS, Google Cloud Platform e Azure, entre outras. Além disso, as empresas podem implantar a plataforma nativamente nos seus servidores locais.

As empresas que utilizam a TrueFoundry conseguiram construir e lançar suas plataformas internas de IA em dois meses e alcançar seu ROI em quatro meses, ao contrário da média do setor de 14 meses, afirmou Bajaj. Gutgutia acrescentou que a startup proporcionou aos seus clientes uma redução de custo de cerca de 40-50% nos gastos com infraestrutura, juntamente com uma melhoria de implantação de 10 vezes, independentemente de estarem trabalhando em um agente, RAG, um modelo profundo complexo ou um modelo ajustado.

Os provedores de nuvem começaram a oferecer seus próprios softwares para facilitar a construção e implantação de modelos de IA, como o Sagemaker da Amazon e o Vertex do Google Cloud. No entanto, Gutgutia contou à TechCrunch que a solução da TrueFoundry ainda é pertinente, pois ajuda a “acelerar o uso de computação” para provedores de nuvem, acelerar o tempo de mercado para aplicativos de IA e reduzir seus custos totais.

A rodada de Série A, totalmente em ações, contou com a participação da Eniac Ventures, Peak XV Partners e Jump Capital, além de investidores anjo, incluindo Gokul Rajaram, Mohit Aron e Cyan Bainster.

A startup usará os fundos para expandir a equipe de 45 membros com sede na Índia para posições de go-to-market nos EUA, incluindo vendas, sucesso do cliente e marketing de produto. Também planeja investir em parcerias, especialmente com provedores de nuvem, e está no processo de ser listada nos principais marketplaces de nuvem, começando pela AWS Marketplace.

Além disso, a TrueFoundry pretende lançar seu agente de IA que ajudará a sugerir os recursos corretos e possibilitar o escalonamento automático, bem como a solução de problemas.

Com o novo financiamento, a TrueFoundry arrecadou um total superior a US$ 21 milhões, incluindo os US$ 2,3 milhões em sua rodada de seed em setembro de 2022, liderada pelo Surge da Peak XV (então Sequoia Índia).

A startup quadruplicou sua base de clientes no ano passado e implantou mais de 1.000 clusters em clientes para cargas de trabalho de aprendizado de máquina. Gutgutia também contou à TechCrunch que está “acima de US$ 1,5 milhão ARR” e busca dobrar esse número neste ano.