Participe de nossos boletins diários e semanais para receber as últimas atualizações e conteúdo exclusivo sobre a cobertura de IA de ponta. Saiba mais
A observabilidade de dados — a prática de usar ferramentas de software para fornecer uma visão de como toda a suíte de software de uma organização, especialmente as aplicações mais críticas para os negócios, está funcionando — se enraizou na era dos computadores no final da década de 1950, mas ganhou nova proeminência na era da IA generativa.
Enquanto fornecedores de plataformas de observabilidade como Splunk e Datadog construíram negócios multibilionários fornecendo ferramentas que ajudam seus clientes empresariais a organizar todos os dados de telemetria — essencialmente, dados que indicam os status de diferentes processos, seja um programa funcionando normalmente ou não, e por quê — a verdade é que muitas organizações agora se encontram afundando em excesso de dados e custos associados na era da IA.
Considere que Charity Majors, cofundadora e CTO da Honeycomb, sugere que as organizações devem alocar de 20 a 30% de seu orçamento de infraestrutura para observabilidade. E, no entanto, uma pesquisa de 2023 destacou que 98% das empresas enfrentaram aumentos inesperados nas despesas de observabilidade, com 51% encontrando excessos mensalmente.
Agora, uma nova startup de San Francisco, a Sawmills AI, está aqui para mediar entre plataformas de observabilidade como Datadog e Splunk e seus clientes, utilizando grandes modelos de linguagem (LLMs) e outros novos modelos de aprendizado de máquina (ML) proprietários para ajudar a consolidar, resumir, reduzir e, por fim, diminuir a quantidade de dados enviados do cliente para o fornecedor, ao mesmo tempo em que capacita o cliente a reter todos os dados originais e agir conforme desejado.
Da esquerda para a direita: cofundadores da Sawmills, Amir Jakoby, Ronit Belson e Erez Rusovsky. Crédito: Sawmills AI
“Muitas empresas têm mais de uma solução de observabilidade”, explicou Ronit Belson, cofundadora e CEO da Sawmills AI, em uma entrevista por vídeo ao VentureBeat. “Acreditamos firmemente que os dados de telemetria devem ser de propriedade do cliente, não dos fornecedores de observabilidade.”
Hoje, a Sawmills AI surgiu do modo stealth com US$ 10 milhões em financiamento seed em uma rodada superlotada liderada pela firma de capital de risco Team8, com a participação da Mayfield e Alumni Ventures.
Cofundada por Belson, pelo CTO Amir Jakoby e pelo CPO Erez Rusovsky, a empresa está enfrentando o aumento dos custos de observabilidade enquanto melhora a qualidade e a confiabilidade dos dados.
A plataforma inteligente de gerenciamento de telemetria da empresa permite que as empresas aproveitem totalmente o potencial de seus dados de telemetria em escala de petabytes, mas a uma fração do custo.
“Empoderamos equipes de engenharia a gerenciar, otimizar e agir com base em seus dados de telemetria”, afirma a empresa em seu site. “Ao abordar ineficiências, mitigar picos de dados custosos e melhorar a qualidade dos dados, permitimos que as empresas reduzam despesas e aumentem a eficácia de seus sistemas de observabilidade.”
Como a Sawmills decidiu reduzir os custos de observabilidade e telemetria
Os fundadores da Sawmills inicialmente se propuseram a resolver um problema diferente, mas as conversas da indústria rapidamente mudaram seu foco.
“Falamos com mais de 100 VPs de engenharia e chefes de DevOps, e o maior problema não era o que esperávamos — era o custo das soluções de observabilidade”, disse Belson ao VentureBeat.
Não era uma preocupação isolada — empresas de diversos setores relataram pagar por enormes quantidades de dados de observabilidade que proporcionavam pouco valor real.
“As empresas estão gastando milhões em observabilidade, mas quando perguntamos quanto desses dados eles realmente precisam, a resposta nos chocou — apenas 10 a 30%”, acrescentou Belson. “Isso significa que 70 a 90% dos dados enviados são essencialmente lixo.”
Rusovsky destacou o desafio que as organizações enfrentam ao gerenciar essa explosão de dados. “As equipes estão lutando porque cada desenvolvedor está escrevendo seus próprios dados de telemetria, e não há uma maneira fácil de gerenciá-los centralmente”, disse ele.
Sem um sistema em vigor para filtrar ou otimizar logs, métricas e rastros, os volumes de dados continuam a crescer sem controle, aumentando os custos de observabilidade e tornando a solução de problemas mais difícil.
“Não somos uma solução de observabilidade”, disse Belson. “Os clientes adoram o Datadog pelo que ele oferece, mas também odeiam quanto pagam por isso.”
Solução impulsionada por IA da Sawmills
A Sawmills desenvolveu uma plataforma inteligente de gerenciamento de dados de telemetria que permite que as empresas filtrem, direcionem e otimizem seus dados de observabilidade antes que eles cheguem às suas ferramentas de observabilidade, como Datadog, Splunk ou New Relic.
A plataforma atua como uma camada de middleware, analisando logs, métricas e rastros em tempo real usando IA e ML.
Diagrama da Sawmills AI. Crédito: Sawmills AI
Principais recursos da plataforma
- Explorador de dados de telemetria: Fornece total visibilidade dos fluxos de dados para reduzir custos e melhorar a qualidade dos dados.
- Controle de custos e disponibilidade: Ajuda as empresas a entender como os dados de telemetria impactam suas despesas com observabilidade.
- Otimização de logs e métricas: Permite amostragem, deduplicação, roteamento, enriquecimento e agregação para eliminar processamentos de dados desnecessários.
- Ações com um clique: Os engenheiros podem implementar recomendações impulsionadas por IA instantaneamente, sem intervenção manual.
- Flexibilidade do fornecedor: A Sawmills suporta OpenTelemetry, permitindo que os clientes troquem fornecedores de observabilidade sem interromper as operações.
- Gerenciamento automático de políticas: Regras pré-configuradas ajudam as empresas a aplicar governança de dados, prevenir excessos e garantir conformidade de segurança.
Usando todas essas ferramentas, a Sawmills afirma fornecer economia significativa no volume de transmissão de dados e custos associados para seus clientes empresariais.
“Se você está enviando milhões de linhas de logs que poderiam ser convertidas em uma única métrica, isso sozinho pode reduzir o volume de dados em 10X ou até 100X em alguns casos”, disse Rusovsky.
Para ajudar a resumir e consolidar os dados dos clientes antes que sejam enviados para a plataforma de observabilidade do cliente, a plataforma da Sawmills utiliza LLMs líderes de fornecedores top disponíveis como modelos open-source e em marketplaces de fornecedores de nuvem preferidos por seus clientes.
“Estamos usando uma combinação [de LLMs e modelos de ML],” disse Jakoby. “Em alguns casos, podemos usar OpenAI ou AWS Bedrock, mas alguns de nossos clientes não permitem que seus dados sejam enviados externamente, então usamos seus próprios LLMs baseados em nuvem em vez disso.”
Oferecendo gerenciamento centralizado de telemetria
Rusovsky enfatizou a importância do controle de dados, observando que as empresas hoje carecem de gerenciamento centralizado de telemetria: “A observabilidade é crítica para todas as organizações, mas também é a segunda maior despesa de engenharia após os custos de nuvem”, disse ele.
muitas empresas enviam terabytes de dados de telemetria diariamente, uma grande parte da qual é desnecessária. “Todos têm medo de remover logs”, acrescentou Rusovsky. “E se eu precisar dele mais tarde? Esse medo leva as empresas a enviar terabytes de dados por dia — muitos dos quais são desnecessários.”
Esses dados excessivos não apenas aumentam os custos, mas complicam a solução de problemas e a monitoração. “O problema não é apenas o custo — quando os dados de telemetria estão fora de controle, torna-se mais difícil utilizá-los”, disse Belson. “Dados demais dificulta a análise de causa raiz, e elaborar relatórios leva mais tempo.”
A plataforma da Sawmills é construída sobre o OpenTelemetry Collector, um padrão da indústria open-source para coleta de dados de telemetria. No entanto, a empresa o aprimora com suas próprias camadas proprietárias, fornecendo capacidades impulsionadas por IA que detectam anomalias, enriquecem dados para melhores insights e implementam políticas de amostragem inteligentes.
Além da economia de custos, Jakoby destacou outra vantagem financeira. “Muitos clientes não percebem que pagam pela ingestão de dados no Datadog, mesmo que esses dados sejam posteriormente descartados”, disse ele. “Filtrar antes do envio pode levar a enormes economias.”
Sucesso Inicial
Os primeiros adotantes da Sawmills já estão vendo os benefícios. Edi Buslovich, VP de engenharia na Via, disse que trabalhar com a Sawmills ajudou a otimizar os dados de telemetria, reduzir custos e melhorar a governança.
Belson enfatizou que a Sawmills não está competindo com os provedores de observabilidade, mas sim ajudando as empresas a maximizar o valor de suas ferramentas existentes.
Ela observou que, embora os engenheiros apreciem plataformas como Datadog, eles costumam não gostar dos custos associados. Ao permitir que as empresas controlem seus dados de telemetria, a Sawmills possibilita uma forma mais eficiente de gastar e melhorar a confiabilidade do sistema.
Liran Grinberg, sócio-gerente da Team8, vê o gerenciamento de dados de telemetria como uma categoria emergente dentro da infraestrutura empresarial. Ele acredita que a abordagem da Sawmills vai além da redução de custos, posicionando a empresa como um facilitador-chave de melhores práticas de observabilidade.
“Não estamos apenas cortando custos — estamos melhorando a qualidade dos dados”, explicou Rusovsky. “Em vez de enviar tudo cegamente para os fornecedores, as empresas podem finalmente controlar seus próprios dados de telemetria.”
Qual é o próximo passo para a Sawmills AI?
A Sawmills está mirado em empresas de médio a grande porte com 500 a 5.000 funcionários, especialmente aquelas que são pesadamente dependentes de nuvem e investidas em observabilidade.
A empresa já garantiu dezenas de clientes pagantes e planeja expandir seu alcance de mercado após seu lançamento público.
Além disso, os cofundadores enfatizaram ao VentureBeat que seus clientes se beneficiarão mais do uso contínuo da plataforma à medida que ela aprender melhor os dados únicos de cada cliente e a mistura e necessidades das ferramentas.
“Quando os logs fluem através do nosso sistema, podemos realmente começar a treinar com base nos logs e nas recomendações que geramos, melhorando nosso modelo ao longo do tempo,” disse Jakoby. “Assim, à medida que você usa o sistema, as recomendações se tornam mais ajustadas às suas necessidades específicas.”
Refletindo sobre o momento inicial da startup, Belson compartilhou que a rodada de financiamento da Sawmills foi rapidamente superlotada, com vários investidores ansiosos para participar.
“Quando começamos a arrecadar fundos, recebemos várias ofertas em duas semanas,” disse ela. “Planejamos levantar sete milhões e acabamos levantando dez. Agora é hora de levar isso ao mercado.”
À medida que as arquiteturas de software continuam a crescer em complexidade, a necessidade de um gerenciamento mais inteligente de dados de telemetria está se tornando cada vez mais crítica.
Com sua abordagem impulsionada por IA, a Sawmills busca se estabelecer como a solução preferida para empresas que procuram otimizar os custos de observabilidade e a qualidade dos dados — tudo isso mantendo a confiabilidade do sistema e a flexibilidade dos fornecedores.
Insights diários sobre casos de uso comercial com o VB Daily
Se você quer impressionar seu chefe, o VB Daily tem tudo o que você precisa. Oferecemos a você informações privilegiadas sobre o que as empresas estão fazendo com a IA generativa, desde mudanças regulatórias até implementações práticas, para que você possa compartilhar insights para o máximo ROI.
Leia nossa Política de Privacidade
Obrigado por se inscrever. Confira mais newsletters do VB aqui.
Ocorreu um erro.
Conteúdo relacionado
Grok 3 parece estar elevando o uso do Grok a novos patamares.
[the_ad id="145565"] A empresa de IA de Elon Musk, xAI, lançou na semana passada o Grok 3, seu tão aguardado modelo de IA. O Grok 3 alimenta os aplicativos de chatbot Grok para…
Anthropic lança um novo modelo de IA que ‘pensa’ por quanto tempo você quiser.
[the_ad id="145565"] A Anthropic está lançando um novo modelo de IA de fronteira chamado Claude 3.7 Sonnet, que a empresa projetou para "pensar" sobre perguntas pelo tempo que…
A Anthropic usou Pokémon para avaliar seu mais recente modelo de IA
[the_ad id="145565"] A Anthropic usou Pokémon para avaliar seu mais recente modelo de IA. Sim, é verdade. Em um postagem de blog publicada na segunda-feira, a Anthropic afirmou…