Claudionor Coelho, Diretor de IA na Zscaler - Série de Entrevistas

Claudionor Coelho é o Chief AI Officer da Zscaler, responsável por liderar sua equipe na busca de novas formas de proteger dados, dispositivos e usuários através de técnicas avançadas de Machine Learning (ML), Deep Learning e Inteligência Artificial Generativa. Antes de se juntar à Zscaler, ele atuou como Chief AI Officer e Vice-presidente sênior de engenharia na Advantest. Anteriormente, Coelho foi Vice-presidente e Chefe dos AI Labs na Palo Alto Networks. Ele também ocupou funções de ML e deep learning no Google.

A Zscaler se concentra em acelerar a transformação digital, permitindo que as organizações alcancem maior agilidade, eficiência, resiliência e segurança. A plataforma de Zero Trust Exchange, nativa da nuvem da empresa, foi projetada para proteger os usuários contra ciberataques e perda de dados, conectando de forma segura usuários, dispositivos e aplicações, independentemente de sua localização. A Zscaler atende milhares de clientes em todo o mundo, enfatizando segurança robusta e conectividade contínua.

Como o primeiro Chief AI Officer da Zscaler, de que forma você moldou a estratégia de IA da empresa, especialmente na integração da IA com a cibersegurança?

A Zscaler fez avanços significativos em IA para a cibersegurança, o que a diferencia dos concorrentes. A plataforma Zero Trust da Zscaler utiliza IA para detectar e impedir o roubo de credenciais e a exploração de navegadores a partir de páginas de phishing. A inteligência de ameaças proveniente de mais de 400 bilhões de transações diárias fornece análises em tempo real que aprimoram a defesa contra ciberataques sofisticados. Além disso, colaboramos com a NVIDIA para oferecer inovações em segurança e TI impulsionadas por IA generativa, como o Zscaler ZDX Copilot, que simplifica operações de TI e rede, enquanto processa dados da plataforma Zero Trust Exchange™ para defender proativamente as empresas contra ameaças. Por fim, com a aquisição da Avalor, estendemos as capacidades do Zero Trust Exchange™ utilizando Data Fabric para Segurança. Com mais de 150 integrações pré-construídas, ele identifica e prevê vulnerabilidades críticas, enquanto melhora a eficiência operacional.

Você fundou várias empresas, incluindo a Kunumi, e ocupou funções de liderança em empresas de destaque. Como sua experiência empreendedora influenciou sua abordagem como líder corporativo de IA na Zscaler?

Quando eu era SVP de Engenharia na Jasper Design Automation, uma startup em Automação de Design Eletrônico, competimos contra empresas de bilhões de dólares, mas conseguimos mais de 70-80% de participação de mercado devido à inovação, processos de negócios e agilidade. Um dos livros que sempre consultei durante nossas reuniões de estratégia foi “Competing on the Edge: Strategy as Structured Chaos”, da Prof. Kathleen M. Eisenhardt. Embora este livro seja de 1998, ele ainda se aplica ao que estamos vendo com a IA Generativa hoje.

Nunca antes uma tecnologia capaz de mudar o mundo se movia tão rapidamente. O engenheiro da Motorola, Martin Cooper, fez a primeira chamada de celular em 1973, mas levou 10 anos até que a primeira rede comercial fosse aberta e mais 24 anos até que o iPhone fosse lançado, mudando a forma como interagimos com máquinas computacionais. O ChatGPT foi lançado em novembro de 2022. No ano seguinte, discutimos em um seminário patrocinado pelo WEF que a Inteligência Geral Artificial (AGI) estava chegando em breve. Na época, apenas alguns de nós reconheceram que podemos usar Agentes para criar muitos sistemas inteligentes preenchendo as lacunas dos LLMs com ferramentas – mesmo antes da AGI. Em 2024, a discussão mudou para Agentes de IA, e no final do ano, estamos começando a ver vários Agentes de IA inteligentes (como o ZDX Copilot ou a plataforma de blogs Kiroku). Essa velocidade só pode ser vista em um ambiente de startup, causando um enorme estresse em grandes organizações, que lutam para se tornar ágeis o suficiente para acomodar uma tecnologia com velocidade sem precedentes.

Dada sua experiência em liderar empresas tanto no Brasil quanto nos EUA, quais são algumas das principais diferenças entre os dois mercados em termos de adoção de IA e cibersegurança?

Discutir startups é uma boa forma de começar a ilustrar as semelhanças e diferenças entre os mercados, uma vez que são onde você frequentemente vê inovações radicais antes de chegarem a grandes corporações. Uma estratégia comum no Brasil para startups tem sido copiar startups de estágio inicial bem-sucedidas dos EUA, já que as startups dos EUA geralmente olham primeiro para o mercado interno (embora isso esteja mudando). No entanto, os EUA tradicionalmente tiveram um sistema de capital mais estável que facilita o início de uma empresa.

Eu criei a Kunumi em 2014 como a primeira empresa de Deep Learning no Brasil. Ela foi vendida ao Banco Bradesco no início deste ano. Em geral, as corporações no Brasil não sabem como adotar a IA Generativa, e você verá muitos erros – o que também é verdade nos EUA. Eu construí quatro Copilots em minha vida – o primeiro em 2016, enquanto estava na Synopsys. Era um agente que podia escanear logs de compilação e execução de grandes máquinas de emulação, buscando informações relacionadas às perguntas do usuário, com suporte a vários idiomas. Naquela época, não havia transformers, nem LLMs, e até mesmo a tradução era muito diferente do que temos hoje.

Em 2020, fui pesquisador no Google trabalhando em compressão e quantização de modelos de Deep Learning, com o CERN usando o que criei na busca por partículas subatômicas. Quando eu pensei que estávamos em uma guerra de dados, ficou claro que a cibersegurança é um problema global que não está localizado em um país ou outro. Foi quando decidi migrar para isso.

Há alguns meses, conversei com um funcionário de governo estrangeiro que dizia que a cibersegurança era um problema dos EUA e que sua agência não tinha nada a se preocupar – apenas para ter um ataque cibernético em sua organização algumas semanas depois.

Finalmente, ao comparar o estado da Cibersegurança com as cobranças de ransomware entre Brasil e EUA, a realidade é que as estimativas de cobranças de ransomware são aproximadamente as mesmas.

Como o ambiente regulatório para IA e cibersegurança difere entre o Brasil e os EUA, e como isso impacta a inovação nessas regiões?

Como a IA Generativa está se movendo tão rapidamente, os governos reconhecem a necessidade de proteger algo, mas muitas vezes não estão claros sobre o que estão tentando proteger. Qual é o impacto se criássemos leis para LLMs em 2023 e, em 2024, estivermos usando Agentes de IA? Precisamos de regulamentos, mas também precisamos fazer uma análise imparcial do ambiente regulatório para ver como podemos melhor proteger os cidadãos locais. Dito isso, quando a IA toma decisões apenas com base em entradas numéricas exatas representando razões ou características, a análise tende a ser incompleta e resulta em uma falha na vida real. Por exemplo, se um algoritmo de IA toma uma decisão de empréstimo para uma pessoa com base em um critério ambíguo como “probabilidade” e um fator como salário ou raça é incluído, você pode ver facilmente um cenário em que uma pessoa seria negada um empréstimo com base no efeito líquido de um desses dois fatores. Com a IA Generativa, o problema se torna ainda pior, devido à incapacidade dos LLMs de trazer dados externos para fazer suposições de raciocínio. É importante garantir que temos regulamentos que não permitam que sistemas falhos tomem decisões (especialmente sem supervisão profunda), pois eles estão destinados a cometer erros.

Por outro lado, fiquei extremamente satisfeito com a capacidade totalmente autônoma dos carros Tesla, que, em comparação com humanos, têm mostrado exceder o número de quilômetros percorridos antes de estarem envolvidos em acidentes. Sim, eles cometem erros, mas mesmo em aviões com copiloto, os pilotos precisam assumir o controle em caso de emergência. Em relação à cibersegurança, várias organizações dos EUA (por exemplo, JCDC.AI, NIST, CISA, etc.) discutiram a necessidade de abordar IA e cibersegurança. Claro, em mercados ou tecnologias de ritmo acelerado, você precisa se adaptar continuamente às mudanças, e quando elas se movem extremamente rápido, você precisa operar na borda do caos.

A Zero Trust Exchange da Zscaler é uma parte chave de seu modelo de segurança. Como a IA melhora essa plataforma e quais são alguns dos desenvolvimentos mais empolgantes nessa área?

A arquitetura zero trust da Zscaler ajuda as organizações a criar um ambiente mais seguro para implantações de IA, mas a plataforma também alavanca a IA de várias maneiras, começando com o ZDX Copilot, que entrega inovações em segurança impulsionadas por IA generativa. Desenvolvido em colaboração com a NVIDIA, o agente utiliza IA Generativa para defender proativamente as empresas contra ameaças e simplificar operações de TI e rede. A Zscaler também aprimorou sua identificação preditiva de vulnerabilidades, adicionando o Data Fabric for Security da Avalor ao Zscaler Zero Trust Exchange. Além disso, a IA está no cerne da plataforma zero trust da Zscaler, detectando e impedindo o roubo de credenciais e a exploração de navegadores a partir de páginas de phishing. Análises em tempo real com base na inteligência de ameaças de mais de 400 bilhões de transações diárias aprimoram sua defesa contra ciberataques sofisticados.

A IA se tornou cada vez mais central na luta contra ameaças cibernéticas. Como você vê a evolução da IA para abordar a crescente complexidade dos riscos de cibersegurança, especialmente no âmbito dos dispositivos IoT e OT?

O panorama de ameaças evoluiu indiscutivelmente com o advento dos ataques cibernéticos baseados em IA, então as organizações podem combater a IA com IA. A grande evolução será aprimorar as soluções de IA com fontes de dados adicionais.

À medida que o número de ataques cibernéticos aumenta, precisamos usar mais automação com IA para detectar e abordar riscos cibernéticos. Vale a pena notar que a IA e a IA Generativa estão sendo usadas agora para criar novas frentes de ataque, e por isso precisamos elevar o nível correlacionando mais sinais do que fizemos anteriormente.

No caso dos dispositivos IoT e OT, eles apresentam riscos significativos para as organizações, já que vários dispositivos IoT não utilizam as pilhas de software mais atualizadas – apesar de ser fácil comprar interruptores Wi-Fi, TVs conectadas à internet, máquinas de lavar louça,fornos, etc. Por anos, temos visto inúmeros artigos que mostram as vulnerabilidades a que estamos sujeitos em IoT/OT.

Precisamos de consciência constante e para aprimorar a defesa cibernética, analisando todos os tipos de dados e sinais para detectar anomalias e ameaças potenciais. Para vencer este jogo, precisamos de modelos de IA de ponta treinados com grandes volumes de dados em tempo real. A IA generativa desempenha um papel fundamental, permitindo que as empresas analisem e resumam resultados para usuários e operadores de segurança.

Como membro dos grupos de trabalho de IA e Cibersegurança no Fórum Econômico Mundial, como as discussões globais sobre ética em IA e cibersegurança moldam sua abordagem ao seu papel na Zscaler?

Porque a tecnologia está se movendo tão rapidamente, governos e organizações precisam ter informações de base, e vejo isso como o papel do Fórum Econômico Mundial. IA e Cibersegurança, sozinhos, têm necessidade suficiente para exigir grupos separados, mas quando você junta os dois, é quase uma nova área em si. Por exemplo, a Gartner mostrou este ano, que IA Generativa aumenta significativamente a superfície de ataque, passando de injeção de prompt na entrada e saída até ataques ao código do aplicativo, ataques ao modelo e até ataques de plug-in.

Alguns desses ataques são específicos de LLMs como o ChatGPT, mas se você considerar que estamos nos movendo de LLMs para Agentes de IA e sistemas Multi-Agent, você precisa considerar muito mais informações. Por exemplo, em LLMs você pode se importar com a injeção de prompt, o comportamento de célula dormente (que faz o LLM responder de forma diferente com base em palavras-chave especiais) ou vazamento de informações proprietárias. Ao discutir Agentes de IA, precisamos considerar ataques a ferramentas e fontes de dados também – mesmo assumindo que injeção SQL e injeção de comando do SO podem ser possíveis novamente.

Além disso, se adicionarmos sistemas multi-agente, onde os agentes podem residir em locais diferentes, precisamos imaginar que isso implica uma rede completamente diferente comunicando-se com protocolos. As pessoas têm experimentado com milhares de agentes – assim como uma rede de computadores.

Por fim, precisamos preparar nossa força de trabalho para usar IA Generativa, fornecendo ferramentas e um ambiente onde possam operar neste novo mundo.

Você tem sido um forte defensor da diversidade e inclusão, especialmente como patrocinador executivo do ERG Latino e Hispânico da Zscaler, Sabor. Como seu histórico cultural influenciou seu estilo de liderança e sua abordagem ao desenvolvimento de IA?

Como um orgulhoso latino, nascido e criado no Brasil, sou apaixonado por apoiar e capacitar as comunidades latinas e hispânicas na Zscaler. Sinto uma grande satisfação em poder contribuir para um mundo melhor por meio da cibersegurança, onde ajudamos a proteger a sociedade em um mundo cada vez mais complexo. Meus valores me ajudaram a chegar onde estou hoje e tenho um orgulho imenso de onde vim.

Meu conselho seria nunca esquecer de onde você veio e o que você fez. Sempre fique orgulhoso do que o torna único, mas também reconheça que a diversidade é essencial. Eu convivo comigo mesmo 24 horas por dia. Se eu contratar apenas pessoas que são similares a mim e concordam comigo, não aumentarei meu conhecimento. Contratar pessoas de diversas localidades e origens nos ajuda a entender melhor as necessidades específicas de nossa base de clientes global.

Por último, o que mais o entusiasma sobre o futuro da IA na cibersegurança, e qual papel você vê a Zscaler desempenhando nesse futuro?

A IA não muda os fundamentos de uma defesa cibernética eficaz – ela destaca sua importância. Antecipamos ver a transparência, práticas de segurança robustas e monitoramento contínuo proliferando por toda a indústria. As organizações devem adotar uma abordagem abrangente para a segurança, implementando medidas avançadas para detectar e responder a ameaças. Isso inclui fomentar uma cultura de conscientização sobre segurança, conduzir auditorias de segurança regulares e colaborar com as partes interessadas para desenvolver estratégias eficazes de segurança. Ao fazer isso, as organizações podem reduzir o risco de violações e proteger suas informações confidenciais.

A Zscaler está comprometida em proteger a privacidade do usuário, empregando as técnicas mais avançadas para anonimizar dados e garantindo que os mantenhamos fora de nossos LLMs, prevenindo a identificação de usuários ou organizações individuais. Embora possamos explorar o ajuste fino de LLMs no futuro, nossas rígidas medidas de privacidade de dados para garantir que nenhum dado de usuário seja comprometido continuarão a ser fundamentais. Nosso objetivo é aproveitar o poder da IA para melhorar a segurança sem infringir a privacidade dos clientes.

Obrigado pela ótima entrevista, leitores que desejam saber mais devem visitar a Zscaler.

---