Noma oferece segurança desde os dados de IA empresarial até a implantação

À medida que 2024 se aproxima do seu final, o cenário da tecnologia empresarial revela que empresas de todos os tamanhos e setores estão ansiosas para aproveitar seus dados em aplicações de IA generativa que aprimoram processos internos (voltados a funcionários) ou externos (voltados a clientes/parceiros).

No entanto, garantir que isso seja feito de forma segura é outro desafio – especialmente para empresas que não se especializam em segurança. Muitas soluções de segurança existentes em grandes empresas podem ser inadequadas ou estão despreparadas para a era da IA e as inúmeras capacidades que desejam liberar com seus dados alimentados por IA.

Apresentamos Noma, uma startup israelense especializada em segurança empresarial de IA. Hoje, ela sai do modo stealth com uma rodada de investimento Série A liderada por $32 milhões pela Ballistic Ventures e apoiada por Glilot Capital Partners e Cyber Club London, além de investidores-anjo, incluindo os diretores de segurança da informação (CISOs) de empresas como McDonald’s, Google DeepMind, Twitter, Atlassian, BNP Paribas, T-Mobile e Nielsen.

A Noma oferece uma plataforma de segurança abrangente que garante a integridade dos dados dos clientes empresariais desde o início, antes que qualquer ação seja executada, até o momento em que estes são utilizados para treinar e/ou implementar modelos de IA e aplicações personalizadas.

A plataforma já está em uso por várias empresas da Fortune 500.

Enfrentando desafios de segurança no cenário de dados e IA

Niv Braun, co-fundador e CEO da Noma, contou à VentureBeat em uma entrevista sobre a necessidade urgente de segurança direcionada em fluxos de trabalho de IA. “

“Os modelos de IA e ciência de dados de hoje enfrentam riscos de segurança únicos, como injeção de prompt e vazamento de dados, que simplesmente não são cobertos por ferramentas de segurança padrão,” ele disse.

Esses problemas estão se tornando mais comuns conforme as organizações vivenciam incidentes de segurança devido a ferramentas MLOps mal configuradas e modelos de código aberto não verificados.

Essa lacuna inspirou Braun e seu co-fundador, Alon Tron, a criar a Noma.

“Meu co-fundador Alon e eu servimos juntos no exército e vimos em primeira mão a lacuna nas ferramentas de segurança para ciência de dados e fluxos de trabalho de IA,” disse Braun. “Na segurança de aplicações, tínhamos ferramentas que ajudavam engenheiros de software a trabalharem de forma segura, mas para as equipes de dados — cientistas de dados, engenheiros e analistas — não havia nada similar. Eles estavam desprotegidos.”

Ambos os co-fundadores serviram na unidade de inteligência 8200 de Israel. Combinando expertises de suas experiências em segurança e ciência de dados, rapidamente formaram uma equipe habilidosa em segurança de aplicações e IA.

O que a plataforma de três camadas da Noma oferece

A plataforma da Noma é projetada para proteger cada estágio do desenvolvimento e operação de modelos de IA, incorporando ferramentas de segurança que cobrem:

1. Segurança da Cadeia de Suprimentos de Dados & IA: Garante ambientes seguros, pipelines e ferramentas de desenvolvimento, mitigando o risco de comprometimento de dados e cadeias de suprimento de IA.
2. Gerenciamento da Postura de Segurança em IA (AI-SPM): Fornece uma solução abrangente de inventário e gerenciamento de segurança para modelos de IA tanto de primeira quanto de terceira parte, visando proteger ativos antes que eles entrem em produção.
3. Detecção e Resposta a Ameaças em IA: Monitora ativamente aplicações de IA para detectar ataques adversariais em tempo real e aplicar protocolos de segurança em tempo de execução.

Braun enfatizou a consolidação que a plataforma da Noma oferece aos clientes. “Nossa plataforma inclui três produtos: segurança da cadeia de suprimentos de dados e IA, gerenciamento da postura de segurança em IA e defesa em tempo de execução de IA.”

Mas, para aqueles que desejam, cada um dos três domínios pode ser aplicado de forma avulsa, à la carte.

“Uma grande força da nossa plataforma é que ela consolida tudo em uma única solução,” explicou Braun. “Embora os clientes possam escolher apenas uma parte, a maioria prefere a abordagem abrangente.”

Braun esclareceu que a Noma oferece uma escolha entre uma licença empresarial inclusiva e uma opção modular baseada em produtos, ambas sob um modelo de assinatura de software como serviço (SaaS) anual. Ele disse que 95% dos clientes escolheram até agora a abordagem integrada, tudo-em-um.

Os comentários de Braun sugerem que a licença empresarial está posicionada como a escolha mais econômica e flexível para clientes que buscam acesso amplo e extensivo às soluções da Noma.

Máxima flexibilidade e facilidade de uso

A plataforma da Noma é compatível com ambientes diversos, suportando configurações baseadas em nuvem, SaaS ou auto-hospedadas, e é instalada em minutos sem necessidade de alterações no código.

“A integração é fácil,” disse Braun. “Tudo o que os clientes precisam fazer é conectar nossa plataforma via API, e nós automaticamente mapeamos e escaneamos tudo em seu ambiente.”

Esse setup sem atritos significa que equipes de ciência de dados podem implementar controles de segurança sem interromper seus fluxos de trabalho, um recurso que a Noma destaca como essencial em um desenvolvimento acelerado e impulsionado por IA.

Kobi Samboursky, Fundador e Sócio-Gerente da Glilot Capital Partners, elogiou o valor da abordagem unificada da Noma em um comunicado à imprensa: “A segurança de aplicações evoluiu ao longo de décadas com ferramentas fragmentadas para análise estática e dinâmica, open source, cadeia de suprimento e runtime. As equipes de segurança perceberam que precisam de soluções consolidadas. A Noma está exclusivamente posicionada para enfrentar esse problema desde o início, consolidando múltiplos casos de uso em uma única plataforma.”

Além disso, a Noma pode ser utilizada por aqueles que não possuem treinamento extenso em segurança ou infraestrutura de dados.

“Nos envolvemos tanto com equipes de dados e IA quanto com equipes de segurança, e nossa plataforma não requer uma expertise profunda em nenhum dos dois campos,” disse. “Mesmo em casos onde equipes de segurança conduziram PoCs (provas de conceito) sem a participação das equipes de ciência de dados, elas acharam fácil integrar e usar.”

Ao mesmo tempo, a plataforma transforma esses assuntos em insights compreensíveis e fáceis de entender para os funcionários de todos os departamentos.

“A plataforma em si é muito autoexplicativa,” observou Braun. “Ela explica os princípios básicos de segurança de uma forma que as equipes de segurança de aplicações já conhecem, mas com uma nova camada de ‘dados e IA’.”

Atendendo às demandas e necessidades da indústria

À medida que a segurança e a conformidade se tornam mais críticas na adoção de IA, a Noma pretende facilitar a colaboração entre equipes de ciência de dados e segurança.

“Nossa missão é criar uma ponte entre as equipes de ciência de dados e segurança, tornando fácil para ambas colaborarem na segurança de fluxos de trabalho de IA,” disse Braun.

A abordagem da Noma é projetada para melhorar a transparência e simplificar os processos de segurança.

“Tornamos a segurança simples para ambas as equipes, fornecendo informações de risco claras e compreensíveis e passos para remediação,” acrescentou. “Tudo se resume a reduzir atritos e melhorar a colaboração.”

Jake Seid, co-fundador e sócio-gerente da Ballistic Ventures, enfatiza a importância da segurança desde o início em uma declaração em um comunicado à imprensa.

“À medida que segurança e conformidade se tornam mais prioritárias para organizações que adotam IA, integrar segurança desde o início garante que a inovação possa florescer sem compromissos,” disse Seid. “A abordagem da Noma dá às equipes de AppSec total visibilidade e confiança enquanto capacita as equipes de ciência de dados a se moverem rapidamente e gerarem valor para os negócios.”

As ambições da Noma são liderar o campo emergente

A entrada da Noma no mercado marca um passo significativo na segurança das operações comerciais impulsionadas por IA em grande escala.

Com o uso crescente de IA em aplicações críticas, o potencial para vulnerabilidades de segurança em fluxos de trabalho de IA se torna mais agudo.

A plataforma da Noma fornece uma proteção muito necessária, permitindo que as empresas aproveitem o potencial da IA sem comprometer a segurança.

Além disso, a Noma está contribuindo ativamente para padrões de segurança em IA e participou do desenvolvimento de diretrizes do governo dos EUA, como NIST SP 800-218A, através de seu envolvimento com o OWASP AI Exchange.

Com $32 milhões em novos fundos e uma tração inicial entre clientes de alto perfil, a Noma busca se tornar líder no campo emergente de segurança do ciclo de vida de dados e IA.