Como a Defesa de IA da Cisco visa combater ameaças cibernéticas que você nunca vê

Este artigo faz parte da edição especial da VentureBeat, “O playbook de resiliência cibernética: Navegando na nova era de ameaças.” Leia mais desta edição especial aqui.

Com a adoção da IA acelerando nas empresas, sua adaptabilidade veloz cria um paradoxo de segurança — como as equipes podem proteger um sistema que evolui constantemente enquanto o escalonam em toda a empresa?

A IA adversarial está agora dominando o cenário de ameaças, alimentando uma guerra cibernética furtiva. Os adversários estão rapidamente armando todos os aspectos da IA, incluindo grandes modelos de linguagem (LLMs). A rápida adoção da IA está abrindo novas superfícies de ataque que as equipes de segurança não conseguem acompanhar usando as tecnologias de segurança atuais.

O fato é que a lacuna entre a IA adversarial e a IA defensiva está crescendo rapidamente, com a segurança e a estabilidade financeira das empresas em risco. Desde a contaminação de dados até ataques de injeção de prompts, os adversários já estão explorando as vulnerabilidades da IA, transformando a tecnologia em um vetor de desinformação, violações de segurança e interrupções nos negócios.

Como a Cisco está ajudando a fechar as lacunas

A estratégia de defesa de IA da Cisco visa fechar essas lacunas cada vez maiores entre a prática da IA adversarial e seu potencial para causar danos às empresas. Com a maioria das implementações de IA geracional previstas para não ter segurança adequada até 2028, o momento da Cisco é perspicaz.

A Gartner também relatou em seu Relatório de Radar de Impacto de Tecnologia Emergente: Segurança na Nuvem que 40% das implementações de IA geracional até 2028 serão realizadas em infraestruturas que carecem de cobertura de segurança adequada, expondo as empresas a ameaças cibernéticas impulsionadas por IA em uma escala sem precedentes.

Nenhum negócio pode se dar ao luxo de procrastinar na proteção de modelos de IA — eles precisam de ajuda para lidar com o paradoxo de gerenciar um ativo altamente adaptável que pode ser facilmente armado sem seu conhecimento.

Lançada em janeiro, a Defesa de IA da Cisco aborda esse dilema, integrando monitoramento em tempo real, validação de modelos e aplicação de políticas em larga escala.

A guerra invisível: IA como superfície de ataque

A maior força da IA, e onde ela entrega mais valor às empresas, é sua capacidade de auto-aprendizagem e adaptação. Mas essa também é sua maior fraqueza. Modelos de IA são não determinísticos, o que significa que seu comportamento muda ao longo do tempo. Essa imprevisibilidade cria lacunas de segurança que os atacantes aproveitam.

Provas de quão severa a guerra cibernética furtiva está se manifestando à medida que o paradoxo se amplia. Ataques de contaminação de dados estão corrompendo conjuntos de dados de treinamento, fazendo com que a IA produza saídas tendenciosas, falhas ou perigosas. Ataques de injeção de prompts são projetados para enganar chatbots de IA a revelarem dados sensíveis de clientes ou executarem comandos que prejudicam modelos e dados. A exfiltração de modelos visa modelos de IA proprietário, roubando propriedade intelectual e minando a vantagem competitiva de uma empresa.

IA sombra — ou o uso não sancionado de ferramentas de IA por funcionários, que inadvertidamente (ou não) alimentam dados sensíveis em modelos de IA externos como ChatGPT e Copilot — também está contribuindo para um problema que cresce a um ritmo mais rápido.

Como Jeetu Patel, EVP e CPO da Cisco, disse à VentureBeat: “Líderes de negócios e tecnologia não podem se dar ao luxo de sacrificar a segurança pela velocidade ao abraçar a IA. Em um cenário dinâmico onde a competição é intensa, a velocidade decide os vencedores.”

Simplesmente, velocidade sem segurança é um jogo perdido.

Defesa de IA da Cisco: Uma nova abordagem para a segurança de IA

A Defesa de IA da Cisco é projetada com propósito, embutindo segurança na infraestrutura de rede para que possa escalar e proteger todos os aspectos do desenvolvimento, lançamento e uso de IA.

Em seu núcleo, a plataforma oferece:

Visibilidade de IA e detecção de IA sombra: As equipes de segurança obtêm visibilidade em tempo real de aplicações de IA sancionadas e não sancionadas, rastreando quem está usando IA, como ela está sendo treinada e se está em conformidade com as políticas de segurança.
Validação automática de modelos e testes de ataque: O time de testes de ataque algorítmicos da Cisco, desenvolvido a partir da aquisição da Robust Intelligence, executa trilhões de simulações de ataque, identificando vulnerabilidades antes que os adversários o façam.
Segurança em tempo real da IA e aplicação adaptativa: Modelos de IA passam por validação contínua para detectar e bloquear injeções de prompts, contaminações de dados e explorações adversárias em tempo real.
Controle de acesso e prevenção de perda de dados (DLP): As empresas podem impedir o uso não autorizado da IA, aplicar políticas de segurança e garantir que dados sensíveis nunca vazem para modelos de IA externos.

Ao embutir a segurança da IA na estrutura de rede da Cisco, a Defesa de IA garante que a segurança da IA seja intrínseca às operações empresariais — e não uma reflexão tardia.

A Defesa de IA incorpora segurança no DNA de empresas impulsionadas por IA

Anciosas por resultados e temerosas de ficar atrás dos concorrentes, mais organizações estão apressando a implantação da IA em larga escala. A crescente pressa de “implantar agora, garantir depois” é arriscada, no melhor dos casos, e contribui para a guerra cibernética furtiva contra adversários bem financiados que estão determinados a atacar organizações-alvo à vontade.

O Índice de Prontidão para a IA 2024 da Cisco descobriu que apenas 29% das empresas se sentem equipadas para detectar e prevenir a adulteração não autorizada da IA. Isso significa que 71% das empresas estão vulneráveis a ataques cibernéticos impulsionados por IA, violações de conformidade e falhas catastróficas na IA.

A Gartner alerta que as empresas devem implementar mecanismos de defesa de execução de IA, uma vez que as ferramentas tradicionais de segurança de endpoint não podem proteger os modelos de IA contra ataques adversariais.

Para se manter à frente, as empresas devem:

Adotar estruturas unificadas de segurança de IA: As soluções de segurança devem ser holísticas, automatizadas e embutidas na infraestrutura.
Implementar inteligência de ameaças de IA e validação contínua: Os modelos de IA requerem monitoração constante, pois o cenário de ameaças muda rapidamente demais para defesas estáticas.
Assegurar a conformidade da IA em ambientes multicloud: As estruturas regulatórias estão se estreitando globalmente. As empresas devem alinhar as políticas de segurança da IA com os mandatos de conformidade em evolução, como o Ato de IA da UE e o Quadro de Segurança da IA do NIST.

Defesa de IA da Cisco: Fortalecendo a IA empresarial contra ameaças em evolução

A IA é o futuro da inovação empresarial, mas a IA não segura é uma responsabilidade. Sem proteção, a IA pode ser manipulada, explorada e armada por cibercriminosos.

A Defesa de IA da Cisco não é apenas uma ferramenta de segurança — é uma estratégia de segurança de IA em toda a empresa. Ao integrar monitoramento de IA em tempo real, validação automática de modelos e aplicação de políticas embutida na rede, a Cisco está estabelecendo um novo padrão para segurança da IA em larga escala.

Como Patel advertiu: “Os desafios de segurança que a IA introduz são novos e complexos, com vulnerabilidades que vão de modelos a aplicações e cadeias de suprimento. Temos que pensar de forma diferente. A Defesa de IA é projetada para garantir que as empresas possam inovar audaciosamente, sem compromissos.”