A Nvidia enfrenta a segurança e a proteção da IA agente com os novos NIMs do NeMo Guardrails

À medida que o uso da IA agente cresce, também aumenta a necessidade de segurança e proteção.

Hoje, Nvidia anunciou uma série de atualizações em sua tecnologia NeMo Guardrails, projetadas especificamente para atender às necessidades da IA agente. A ideia básica por trás dos guardrails é fornecer alguma forma de política e controle para grandes modelos de linguagem (LLMs) para ajudar a prevenir saídas não autorizadas e não intencionais. O conceito de guardrails tem sido amplamente adotado nos últimos anos por vários fornecedores, incluindo a AWS.

As novas atualizações do NeMo Guardrails da Nvidia são projetadas para facilitar o trabalho das organizações na implementação e fornecer tipos de controle mais granulares. Os NeMo Guardrails agora estão disponíveis como um NIM (Microserviços de Inferência Nvidia), otimizados para GPUs da Nvidia. Além disso, existem três novos serviços NIM específicos que as empresas podem implantar para segurança de conteúdo, controle de tópicos e detecção de jailbreak. Os guardrails foram otimizados para implantações de IA agente, em vez de apenas LLMs isolados.

“Não se trata apenas de proteger um modelo agora”, disse Kari Briski, VP de modelos de IA para empresas, software e serviços da Nvidia, em um briefing à imprensa. “Trata-se de proteger e de um sistema total.”

O que as novas NeMo Guardrails trazem para a IA Agente Empresarial

Espera-se que o uso da IA agente seja uma tendência dominante em 2025.

Embora a IA agente tenha muitos benefícios, também traz novos desafios, particularmente em relação à segurança, privacidade de dados e requisitos de governança, que podem criar barreiras significativas à implantação.

Os três novos NIMs do NeMo Guardrails são destinados a ajudar a resolver alguns desses desafios. Eles incluem:

• NIM de Segurança de Conteúdo: Treinado com o conjunto de dados de segurança de conteúdo Aegis da Nvidia, contendo 35.000 amostras anotadas por humanos, este serviço bloqueia conteúdo prejudicial, tóxico e antiético.
• NIM de Controle de Tópicos: Ajuda a garantir que as interações de IA permaneçam dentro de limites tópicos predefinidos, evitando desvios de conversa e divulgação não autorizada de informações.
• NIM de Detecção de Jailbreak: Ajuda a prevenir violações de segurança por meio de truques engenhosos, utilizando dados de treinamento de 17.000 jailbreaks conhecidos com sucesso.

Complexidade de salvaguardar sistemas de IA agente

A complexidade de salvaguardar sistemas de IA agente é significativa, pois podem envolver múltiplos agentes e modelos interconectados.

Briski forneceu um exemplo de um cenário de agente de atendimento ao cliente no varejo. Considere uma pessoa interagindo com pelo menos três agentes: um LLM de raciocínio, um agente de geração aumentada por recuperação (RAG) e um agente assistente de atendimento ao cliente. Todos são necessários para habilitar o agente ao vivo.

“Dependendo da interação do usuário, muitos LLMs diferentes ou interações podem ser feitos, e você precisa proteger cada um deles”, disse Briski.

Embora haja complexidade, ela observou que um objetivo chave com os NIMs do NeMo Guardrails é facilitar as coisas para as empresas. Como parte do lançamento de hoje, a Nvidia também está fornecendo modelos para demonstrar como os diferentes NIMs de guardrail podem ser implantados para cenários variados, incluindo atendimento ao cliente e varejo.

Como os guardrails da Nvidia impactam o desempenho da IA agente

Outra preocupação principal para as empresas que implantam IA agente é o desempenho.

Briski disse que, à medida que as empresas implantam IA agente, pode haver preocupação em introduzir latência ao adicionar guardrails.

“Acho que, quando as pessoas estavam tentando adicionar guardrails no passado, estavam aplicando LLMs maiores para tentar proteger”, explicou.

Os mais recentes NIMs do NeMo Guardrail foram ajustados e otimizados para abordar as preocupações de latência. Os testes iniciais da Nvidia mostram que as organizações podem obter 50% de proteção melhor com guardrails, que somam apenas aproximadamente meio segundo de latência.

“Isso é realmente importante ao implantar agentes, porque, como sabemos, não é apenas um agente, há múltiplos agentes que podem estar dentro de um sistema agente”, afirmou Briski.

Os NIMs do Nvidia NeMo Guardrails para IA agente estão disponíveis sob a licença empresarial de IA da Nvidia, que atualmente custa US$ 4.500 por GPU por ano. Os desenvolvedores podem experimentá-los gratuitamente sob uma licença de código aberto, bem como em build.nvidia.com.