A Voltron Data acaba de formar uma parceria com a Accenture para resolver uma das maiores dores de cabeça da IA.

À medida que a inteligência artificial gera uma demanda sem precedentes por processamento de dados, uma startup de Mountain View está oferecendo uma solução para um dos desafios menos discutidos, mas mais críticos da IA: mover e transformar grandes conjuntos de dados rapidamente o suficiente para acompanhar.

Voltron Data, que anunciou uma parceria estratégica com Accenture hoje, desenvolveu um motor de análise acelerado por GPU que pode ajudar as empresas a superar o gargalo de preparação de dados que atrapalha as iniciativas de IA. O produto principal da empresa, Theseus, permite que as organizações processem dados em escala de petabytes usando unidades de processamento gráfico (GPUs) em vez de processadores de computador tradicionais (CPUs).

“Todos estão focados nas novidades chamativas que você pode tocar e sentir, mas a fundação dos conjuntos de dados que está por baixo é a chave,” disse Michael Abbott, que lidera a prática de bancos e mercados de capitais da Accenture, em uma entrevista exclusiva ao VentureBeat. “Para fazer a IA funcionar, você precisa mover dados em uma velocidade e ritmo que você nunca precisou antes.”

Construindo para a tsunami da IA: Por que o processamento de dados tradicional não servirá

A parceria surge enquanto as empresas que estão apressadas para adotar a IA generativa descobrem que sua infraestrutura de dados existente não está equipada para lidar com o volume e a velocidade de dados exigidos. Este desafio deve se intensificar à medida que os agentes de IA se tornem mais prevalentes nas operações empresariais.

“Agentes provavelmente escreverão mais consultas SQL do que os humanos em um horizonte de tempo muito curto,” disse Rodrigo Aramburu, CTO e co-fundador da Voltron Data. “Se os CIOs e CTOs já estão dizendo que gastam muito com análise de dados e infraestrutura em nuvem, e a demanda está prestes a aumentar exponencialmente, então precisamos reduzir exponencialmente o custo de execução dessas consultas.”

Diferente dos fornecedores de bancos de dados tradicionais que adaptaram o suporte a GPU em sistemas existentes, a Voltron Data construiu seu motor do zero para aceleração por GPU. “O que a maioria das empresas fez quando tentou acelerar com GPU foi colocar GPUs em um sistema existente,” Aramburu disse ao VentureBeat. “Ao construir do zero… conseguimos obter 10x, 20x, 100x dependendo do perfil de desempenho de uma carga de trabalho específica.”

De 1.400 servidores para 14: Adotantes iniciais veem resultados dramáticos

A empresa posiciona Theseus como complementar a plataformas estabelecidas como Snowflake e Databricks, aproveitando a estrutura Apache Arrow para movimentação eficiente de dados. “Na verdade, é um acelerador para todos esses bancos de dados, em vez de competição,” disse Abbott. “Ainda está usando o mesmo SQL que foi escrito para obter a mesma resposta, mas chega lá de forma muito mais rápida e eficiente de forma paralela.”

A adoção inicial se concentrou em indústrias intensivas em dados, como serviços financeiros, onde os casos de uso incluem detecção de fraudes, modelagem de risco e conformidade regulatória. Um grande varejista reduziu sua contagem de servidores de 1.400 máquinas com CPU para apenas 14 servidores com GPU após implementar o Theseus, de acordo com Aramburu.

Desde o lançamento na conferência GTC da Nvidia em março passado, a Voltron Data garantiu cerca de 14 clientes empresariais, incluindo duas grandes agências governamentais. A empresa planeja lançar uma versão de “teste” que permitirá que potenciais clientes experimentem consultas aceleradas por GPU em conjuntos de dados de tamanho terabyte.

Transformando a escassez de GPU em uma oportunidade

A atual escassez de GPUs provocada pela demanda por IA tem sido tanto desafiadora quanto benéfica para a Voltron Data. Enquanto novas implantações enfrentam restrições de hardware, muitas empresas têm infraestrutura de GPU subutilizada que foi comprada originalmente para cargas de trabalho de IA e que poderia ser reaproveitada para processamento de dados durante períodos ociosos.

“Na verdade, vimos isso como uma vantagem, já que há tantas GPUs no mercado que anteriormente não estavam disponíveis,” observou Aramburu, acrescentando que o Theseus pode funcionar efetivamente em gerações mais antigas de GPUs que poderiam ser descontinuadas.

A tecnologia pode ser particularmente valiosa para bancos que lidam com o que Abbott chama de “dados presos” — informações bloqueadas em formatos como PDFs e documentos que poderiam ser valiosas para o treinamento de IA, mas que são difíceis de acessar e processar em escala. “Você viu alguns dos dados que a Voltron mostraria para você que são potencialmente 90% mais eficazes e eficientes para mover dados usando essa tecnologia do que CPUs padrão,” disse Abbott. “Esse é o poder.”

À medida que as empresas enfrentam as demandas de dados da IA, soluções que podem acelerar o processamento de dados e reduzir os custos de infraestrutura provavelmente se tornarão cada vez mais críticas. A parceria com a Accenture pode ajudar a Voltron Data a alcançar mais organizações que enfrentam esses desafios, enquanto dá aos clientes da Accenture acesso a uma tecnologia que pode melhorar significativamente o desempenho e a eficiência das iniciativas de IA.