A vantagem da Visa em IA: Como o RAG-as-a-service e o aprendizado profundo estão fortalecendo a segurança e acelerando a recuperação de dados

A gigante global de pagamentos Visa opera em mais de 200 países e territórios, cada um com suas próprias regras e regulamentos complexos. 

A equipe de serviços ao cliente deve entender essas nuances quando surgem perguntas relacionadas a políticas — como ‘podemos processar esse tipo de pagamento neste país?’ — mas simplesmente não é humanamente possível saber todas essas respostas de cor. 

Isso significa que, normalmente, eles tinham que buscar as informações relevantes manualmente — um processo exaustivo que pode levar dias, dependendo de quão acessíveis são as informações. 

Com o surgimento da IA generativa, a Visa viu isso como um caso de uso perfeito, aplicando a geração aumentada por recuperação (RAG) não apenas para extrair informações até 1000 vezes mais rápido, mas também para citar suas fontes. 

“Primeiro de tudo, são resultados de melhor qualidade”, disse Sam Hamilton, SVP de dados e IA da Visa, ao VentureBeat. “É também a latência, certo? Eles podem lidar com muito mais casos do que antes.”

Essa é apenas uma das maneiras que a Visa está usando a IA generativa para aprimorar suas operações — apoiada por uma pilha tecnológica deliberadamente construída e em camadas — enquanto gerencia riscos e mantém a fraude sob controle. 

ChatGPT Seguro: os modelos protegidos da Visa

30 de novembro de 2022, o dia em que o ChatGPT foi apresentado ao mundo, será um marco histórico para a IA. 

Não muito depois, Hamilton observou: “os funcionários da Visa estavam todos perguntando, ‘Onde está meu ChatGPT?’ ‘Posso usar o ChatGPT?’ ‘Não tenho acesso ao ChatGPT.’ ‘Quero o ChatGPT.’”

No entanto, como um dos maiores provedores de pagamentos digitais do mundo, a Visa naturalmente tinha preocupações sobre os dados sensíveis de seus clientes — especificamente, que eles permanecessem seguros, fora do domínio público e não fossem usados para treinamento futuro de modelos. 

Para atender à demanda dos funcionários, equilibrando essas preocupações, a Visa introduziu o que chama de ‘ChatGPT Seguro’, que funciona internamente em um firewall e na Microsoft Azure. A empresa pode controlar a entrada e saída via prevenção de perda de dados (DLP) para garantir que nenhum dado sensível saia dos sistemas da Visa. 

“Todos os centenas de petabytes de dados, tudo é criptografado, tudo é seguro em repouso e também em transporte”, explicou Hamilton.

Apesar do nome, o ChatGPT Seguro é uma interface multimodal que oferece seis opções diferentes: GPT (e suas várias iterações), Mistral, Claude da Anthropic, Llama da Meta, Gemini do Google e Granite da IBM. Hamilton descreveu isso como modelo-como-um-serviço ou RAG-como-um-serviço. 

“Pense nisso como uma espécie de camada onde podemos fornecer uma abstração,” disse ele. 

Em vez de as pessoas construírem seus próprios bancos de vetores, elas podem escolher a API que melhor se adapta ao seu caso de uso específico. Por exemplo, se precisam apenas de um pouco de ajuste fino, geralmente optarão por um modelo menor de código aberto, como o Mistral; por outro lado, se estão buscando um modelo de raciocínio mais sofisticado, podem escolher algo como o OpenAI o1 ou o3. 

Dessa forma, as pessoas não se sentem restritas ou como se estivessem perdendo o que está prontamente disponível no domínio público (o que pode levar ao ‘shadow AI’, ou uso de modelos não aprovados). O GPT Seguro é “nada mais do que uma camada em cima do modelo,” explicou Hamilton. “Agora eles podem escolher o modelo que desejam em cima disso.” 

Além do ChatGPT Seguro, todos os desenvolvedores da Visa têm acesso ao GitHub Copilot para ajudá-los em sua codificação e testes diários. Os desenvolvedores usam o Copilot e plugins para diversos ambientes de desenvolvimento integrados (IDEs) para entender o código, melhorar o código e realizar testes de unidade (determinando se o código funciona como deveria), observou Hamilton. 

“Portanto, a cobertura de código [identificando áreas onde os testes adequados estão faltando] aumenta significativamente porque temos esse assistente,” disse ele. 

RAG-como-um-serviço em ação

Um dos casos de uso mais poderosos para o ChatGPT Seguro é o manuseio de perguntas relacionadas a políticas específicas para uma determinada região. 

“Como você pode imaginar, estando em 200 países com diferentes regulamentos, os documentos podem ser milhares e milhares, centenas de milhares,” observou Hamilton. “Isso se torna realmente complicado. Você precisa acertar, certo? E precisa ser uma busca exaustiva.” 

Além disso, a política local muda ao longo do tempo, então os especialistas da Visa devem estar atualizados. 

Agora, com um robusto RAG fundamentado em dados confiáveis e atualizados, a IA da Visa não apenas recupera respostas rapidamente, mas também fornece citações e materiais fonte. “Ela diz o que você pode ou não pode fazer, e diz: ‘Aqui está o documento que você quer, estou dando uma resposta com base nisso,’” explicou Hamilton. “Nós restringimos respostas com o conhecimento que temos construído no RAG.” 

Normalmente, o processo exaustivo levaria “se não horas, dias” para chegar a conclusões concretas. “Agora posso obter isso em cinco minutos, dois minutos,” disse Hamilton. 

A infraestrutura de dados em quatro camadas da Visa

Essas capacidades são o resultado do pesado investimento da Visa em infraestrutura de dados ao longo dos últimos 10 anos: a gigante financeira gastou cerca de $3 bilhões em sua pilha tecnológica, segundo Hamilton. 

Ele descreve essa pilha como um “bolo de aniversário com 4 camadas”: A base é uma camada de ‘plataforma de dados como serviço’, com camadas de ‘dados como serviço’, um ecossistema de IA e aprendizado de máquina (ML) e camadas de serviços e produtos de dados construídas acima. 

A plataforma de dados como serviço serve essencialmente como um sistema operacional construído em um lago de dados que agrega “centenas de petabytes de dados,” explicou Hamilton. A camada acima, dados como serviço, serve como uma espécie de “rodovia de dados” com múltiplas faixas, indo a diferentes velocidades para alimentar centenas de aplicações. 

A terceira camada, o ecossistema de IA/ML, é onde a Visa está constantemente testando modelos para garantir que estão desempenhando como deveriam e não estão sujeitos a viés e desvios. Finalmente, a quarta camada é onde a Visa constrói produtos para funcionários e clientes. 

Bloqueando $40 bilhões em fraude

Como um provedor de pagamentos de confiança, uma das principais prioridades da Visa é a prevenção de fraudes, e a IA está desempenhando um papel crescente aqui também. Hamilton explicou que a empresa investiu mais de $10 bilhões para ajudar a reduzir fraudes e aumentar a segurança da rede. Isso, em última análise, ajudou a empresa a bloquear $40 bilhões em tentativas de fraudes apenas em 2024.

Por exemplo, uma nova ferramenta de autorização profunda da Visa fornece pontuação de risco de transações para ajudar a gerenciar pagamentos sem cartão (CNP) (como quando os usuários pagam via web ou aplicativo móvel, como é a prática do dia a dia para todos nós). Isso é alimentado por um modelo de rede neural recorrente profunda (RNN) baseado em petabytes de dados contextuais. Da mesma forma, a proteção de pagamentos em tempo real, de conta para conta (pense em carteiras digitais ou sistemas de pagamentos instantâneos) — é habilitada por modelos de IA de aprendizado profundo que produzem pontuações de risco instantâneas e bloqueiam automaticamente transações ruins. 

Hamilton explicou que a Visa usou um modelo baseado em transformadores — uma rede neural que aprende contexto e significado rastreando relações em dados — para aprimorar essas ferramentas e identificar rapidamente e neutralizar fraudes. “Queríamos fazer isso em linha com as transações,” disse ele. “Isso significa que temos tempos de resposta de menos de um segundo, quero dizer, milissegundos.” 

Dados sintéticos também oferecem valor na prevenção de fraudes: a equipe de Hamilton aumenta os dados existentes com dados sintéticos para realizar simulações em torno de novas variantes de fraudes. “Isso nos ajuda a aprender o que está acontecendo agora e o que pode acontecer no curto e no longo prazo, para que possamos simular e treinar o modelo para capturar os dados,” disse ele. 

Ele observou que a fraude é uma corrida armamentista — e há uma barreira de entrada muito baixa para os atores de ameaça. “Precisamos estar um passo à frente disso e antecipar e bloqueá-los,” enfatizou Hamilton.