ServiceNow lança capacidades de governança de IA empresarial para acelerar a implementação em produção

ServiceNow tem sido há muito tempo um pilar das operações de TI empresariais com sua plataforma principal, Now.

Nos últimos anos, a empresa tem expandido suas capacidades com a introdução de funcionalidades de IA empresarial, incluindo Now Assist. Como uma plataforma que as organizações usam para gerenciar suas operações, ter um alto grau de confiança é absolutamente crítico. Com a IA generativa, em particular, houve alguma hesitação por parte das empresas quanto à segurança e preocupações sobre possíveis alucinações.

Hoje, a empresa anunciou uma série de novas funcionalidades de governança para sua plataforma principal Now, projetadas para aumentar a confiança no uso de IA empresarial. As novas funcionalidades de governança abordam um desafio crescente na adoção de IA empresarial: a lacuna entre a experimentação e a implementação total em produção.

Os componentes de governança incluem Now Assist Guardian, Now Assist Data Kit e Now Assist Analytics. Essas novas ferramentas ajudam as organizações a gerenciar implementações de IA em toda a empresa. Essas ferramentas são cruciais à medida que as empresas avançam além das etapas de prova de conceito para ambientes de produção completos.

“No ano passado, de maneira geral, foi mais uma abordagem de experimentação e este ano está se tornando real,” disse Jeremy Barnes, VP de Produto de IA da ServiceNow à VentureBeat. “As pessoas estão implantando IA para algo relacionado ao seu lucro ou prejuízo.”

Por que a governança de IA é crítica para a adoção empresarial

Em uma empresa, a governança e a conformidade são operações críticas.

A plataforma ServiceNow reconhece a relação frequentemente complexa entre diferentes partes interessadas dentro da empresa.

“Normalmente, nossos clientes têm governança e conformidade em uma organização diferente daquela que define e possui os benefícios econômicos da IA generativa,” disse Barnes.

O que isso geralmente significa na maioria das organizações é que uma equipe pode criar uma prova de conceito para experimentar a IA generativa. Nesse estágio, não há as mesmas restrições do que quando um aplicativo ou serviço é implantado em toda a empresa em uma implementação completa. Inevitavelmente, uma equipe de governança dentro da empresa dirá à equipe de desenvolvimento que não podem implantar algo sem garantir primeiro a conformidade com as políticas da organização. Barnes observou que o que tende a acontecer como resultado é que os esforços de IA generativa acabam em ‘limbo’ entre prova de conceito e produção por um longo tempo.

Ele observou que as novas atualizações de governança de IA ajudam a unir essa divisão, fornecendo ferramentas e visibilidade que satisfazem os requisitos de negócios e de conformidade.

“A governança de IA não é apenas sobre pesquisar os modelos,” comentou Barnes.

Ele explicou que se trata de ter um sistema que inclui componentes de IA e fluxos de trabalho tradicionais. É sobre entender e ser capaz de garantir que o sistema se encaixe dentro do resultado esperado desejado pela empresa. A governança também é sobre entender quando algo está errado e fornecer a capacidade de gerenciar a situação.

Como a IA agente acelera o imperativo da governança

Entre as razões pelas quais uma maior governança de IA é necessária agora está o fato de que a IA agente está começando a ser implantada.

muitas organizações, incluindo a ServiceNow, estão implantando estruturas de agentes para fornecer capacidades mais autônomas à IA. Barnes observou que, com agentes de IA mais autônomos, há uma necessidade maior de governança robusta, controles e supervisão humana para garantir que os sistemas estejam operando como pretendido e dentro de parâmetros aceitáveis.

As ferramentas de governança e fluxos de trabalho fornecidos pela ServiceNow visam ajudar as empresas a gerenciar os riscos e manter o nível necessário de controle sobre esses sistemas de IA mais autônomos.

A interseção entre a governança da IA empresarial e a alucinação

Um desafio principal para a adoção empresarial é o risco de alucinação. A governança em si não é a resposta para esse desafio, mas é um componente da solução necessária.

A alucinação é uma preocupação em toda a indústria e é algo que impacta todos os modelos de IA generativa de alguma forma. A ServiceNow está adotando uma abordagem em camadas para mitigar a alucinação. A abordagem inclui o ajuste fino de modelos de linguagem para se concentrar mais na extração de informações, em vez de gerar novas informações.

A governança é outro aspecto crítico para ajudar a mitigar riscos. A nova ferramenta Now Assist Analysis Guardian agora também fornecerá uma camada extra de proteção contra alucinação, analisando as saídas da IA. Barnes disse que um objetivo-chave para a ServiceNow é garantir que a alucinação não seja um ‘obstáculo’ para as implantações de IA empresariais, mas sim vista como um risco que pode ser abordado com as ferramentas disponíveis na plataforma.

Como a IA empresarial ajudará nas implantações do Banco de Dados de Gerenciamento de Configuração

O Banco de Dados de Gerenciamento de Configuração (CMDB) é um pilar da gestão de operações de TI. Sistemas CMDB gerenciam o inventário de sistemas, software e configurações usados em toda a empresa.

Como parte da atualização da ServiceNow hoje, há também uma nova capacidade Now Assist para CMDB que traz o poder da IA. Barnes explicou que a nova capacidade não aborda diretamente a população ou descoberta do CMDB, que normalmente é feita por outros meios, mas se concentra na melhoria da produtividade dos usuários que interagem com os dados do CMDB.

A funcionalidade de análise do CMDB é parte da estratégia mais ampla da ServiceNow para fornecer aprimoramentos de produtividade impulsionados por IA para diferentes personas dentro de suas organizações clientes. A funcionalidade de análise do CMDB está integrada com o quadro de governança de IA, garantindo que a implantação e o uso desta ferramenta alimentada por IA estejam sujeitos aos mesmos processos e controles de governança. Isso ajuda a abordar as restrições de confiança e operação que as equipes de operações de TI podem ter ao implantar ferramentas baseadas em IA em seus sistemas críticos e dados.

“Quanto mais você depende de uma ferramenta de IA, mais precisa ter certeza de que ela é confiável para o que está fazendo,” disse Barnes.