Bolt42

A Nvidia está lançando três novos microserviços NIM, ou pequenas serviços independentes que fazem parte de aplicações maiores, para ajudar as empresas a trazerem mais controle e medidas de segurança para seus agentes de IA.

Um desses novos serviços NIM tem como alvo a segurança do conteúdo e trabalha para evitar que um agente de IA gere saídas prejudiciais ou tendenciosas. Outro serviço mantém as conversas focadas apenas em tópicos aprovados, enquanto o terceiro novo serviço ajuda a prevenir tentativas de jailbreak em um agente de IA, ou a remoção de restrições de software.

Esses três novos microserviços NIM fazem parte do Nvidia NeMo Guardrails, a coleção de ferramentas e microserviços de código aberto da Nvidia destinada a ajudar empresas a aprimorar suas aplicações de IA.

“Aplicando múltiplos modelos leves e especializados como guardrails, os desenvolvedores podem cobrir lacunas que podem ocorrer quando apenas políticas e proteções globais mais gerais estão em vigor — já que uma abordagem única não protege e controla adequadamente fluxos de trabalho de IA complexos,” disse o comunicado de imprensa.

Parece que as empresas de IA podem estar começando a perceber que fazer com que as empresas adotem sua tecnologia de agentes de IA não será tão simples quanto inicialmente pensaram. Enquanto pessoas como o CEO da Salesforce, Marc Benioff, previram recentemente que haverá mais de um bilhão de agentes operando apenas na Salesforce nos próximos 12 meses, a realidade provavelmente será um pouco diferente.

Um estudo recente da Deloitte previu que cerca de 25% das empresas já estão usando agentes de IA ou esperam usá-los até 2025. O relatório também previu que até 2027 cerca de metade das empresas estará utilizando agentes. Isso mostra que, embora as empresas tenham interesse claro em agentes de IA, elas não estão adotando a tecnologia de IA na mesma velocidade que a inovação está ocorrendo no espaço de IA.

A Nvidia provavelmente espera que iniciativas como esta tornem a adoção de agentes de IA parecer mais segura e menos experimental. O tempo dirá se isso é realmente verdade.

    onze − cinco =

    Bolt42

    IA Inovação