A Red Hat está adquirindo a startup de otimização em IA Neural Magic.

A Red Hat, a empresa de software de código aberto pertencente à IBM, está adquirindo a Neural Magic, uma startup que otimiza modelos de IA para funcionar mais rapidamente em processadores e GPUs comuns.

Os termos do acordo não foram divulgados.

O cientista de pesquisa do MIT Alex Matveev e o professor Nir Shavit fundaram a Neural Magic, com sede em Somerville, Massachusetts, em 2018, inspirados por seu trabalho em motores de execução de alto desempenho para IA.

O software da Neural Magic visa processar cargas de trabalho de IA em processadores e GPUs em velocidades equivalentes às de chips de IA especializados (por exemplo, TPUs). Ao executar modelos em processadores comuns, que geralmente possuem mais memória disponível, o software da empresa consegue realizar esses ganhos de desempenho.

Grandes empresas de tecnologia, como AMD, e uma variedade de outras startups, incluindo NeuReality, Deci, CoCoPie, OctoML e DeepCube, oferecem algum tipo de software de otimização de IA. No entanto, a Neural Magic é uma das poucas com uma plataforma gratuita e um conjunto de ferramentas de código aberto para complementá-la.

Até agora, a Neural Magic conseguiu arrecadar US$ 50 milhões em capital de risco de investidores como Andreessen Horowitz, New Enterprise Associates, Amdocs, Comcast Ventures, Pillar VC e Ridgeline Ventures.

O CEO da Red Hat, Matt Hicks, afirmou que o trabalho da Neural Magic no vLLM, um projeto de código aberto para atendimento a modelos, era de particular interesse para a Red Hat. Com a Neural Magic, a empresa de código aberto está se beneficiando de uma pilha “de grau empresarial” baseada em vLLM que permite aos clientes otimizar e implantar modelos em ambientes de nuvem, disse Hicks, com controle total sobre infraestrutura e segurança.

A Red Hat já está envolvida no projeto vLLM, que utiliza para executar modelos em produtos como Red Hat Enterprise Linux AI e Red Hat OpenShift AI. Hicks afirmou que, através do trabalho conjunto da Red Hat e da Neural Magic, seus parceiros de infraestrutura poderão escalar melhor a IA em diversas plataformas, e seus parceiros de prestadores de serviços integrados obterão inferência e desempenho mais robustos para integrar às suas ofertas.

“As cargas de trabalho de IA precisam ser executadas onde quer que os dados dos clientes estejam, em toda a nuvem híbrida; isso torna plataformas e ferramentas flexíveis, padronizadas e abertas uma necessidade, pois permitem que as organizações escolham os ambientes, recursos e arquiteturas que melhor se alinham com suas necessidades operacionais e de dados únicas,” disse Hicks em um comunicado. “Estamos empolgados em complementar nosso portfólio de IA focado na nuvem híbrida com a inovação revolucionária da Neural Magic, avançando nossa missão de sermos não apenas o ‘Red Hat’ do código aberto, mas também o ‘Red Hat’ da IA.”

A aquisição da Neural Magic pela Red Hat acontece enquanto a empresa faz uma série de anúncios relacionados à IA na KubeCon, a conferência anual de computação, em Salt Lake City, esta semana. A Red Hat também revelou o Climatik, uma ferramenta desenvolvida em colaboração com a Intel, Bloomberg e IBM para otimizar a eficiência energética de data centers, e novos lançamentos de suas plataformas de desenvolvimento OpenShift AI e Device Edge.

À medida que as demandas de energia e os custos de criação e implantação de IA aumentam, grandes fornecedores de tecnologia têm se apressado para adquirir empresas com produtos que possam ajudar a otimizar algoritmos de IA. Em abril, a Nvidia adquiriu a Run:ai, uma empresa que facilita para os desenvolvedores gerenciar e otimizar sua infraestrutura de IA. E em outubro de 2020, a Intel comprou a SigOpt, especialista em otimização de modelagem.