Como o grande banco americano BNY gerencia exércitos de agentes de IA

O setor de serviços financeiros é um dos mais regulamentados. Ele também gerencia enormes quantidades de dados. Consciente da necessidade de cautela, as empresas financeiras começaram a adicionar lentamente IA generativa e agentes de IA aos seus portfólios de serviços.

O setor não é estranho à automação. No entanto, o uso do termo “agente” foi comedido. E, compreensivelmente, muitos na indústria adotaram uma postura muito cautelosa em relação à IA generativa, especialmente na ausência de marcos regulatórios. No entanto, agora bancos como o JP Morgan e o Bank of America lançaram assistentes alimentados por IA.

Um banco na vanguarda dessa tendência é BNY. A empresa de serviços financeiros fundada por Alexander Hamilton está atualizando sua ferramenta de IA, Eliza (nomeada em homenagem à esposa de Hamilton), desenvolvendo-a em um recurso de múltiplos agentes. O banco vê os agentes de IA como proporcionando assistência valiosa a seus representantes de vendas enquanto engaja mais os clientes.

Uma abordagem de múltiplos agentes

Sarthak Pattanaik, chefe do Centro de Inteligência Artificial do BNY, disse à VentureBeat em uma entrevista que o banco começou a descobrir como conectar suas muitas unidades para que suas informações pudessem ser facilmente acessadas.

O BNY criou um agente de recomendação de leads para suas várias equipes. Mas fez mais. Na verdade, ele utiliza uma arquitetura de múltiplos agentes para ajudar sua equipe de vendas a fazer recomendações adequadas aos clientes.

“Temos um agente que tem tudo o que a [equipe de vendas] sabe sobre nosso cliente,” disse Pattanaik. “Temos outro agente que fala sobre produtos, todos os produtos que o banco possui… desde liquidez até colateral, pagamentos, tesouraria e assim por diante. No final… estamos tentando resolver uma necessidade do cliente por meio das capacidades que temos, das capacidades de produtos que temos.”

Pattanaik acrescentou que seus agentes reduziram o número de pessoas com quem muitos de seus funcionários de atendimento ao cliente precisam conversar para determinar uma boa recomendação para os clientes. Assim, “em vez de os vendedores conversarem com 10 diferentes gerentes de produto, 10 diferentes pessoas de clientes, 10 diferentes pessoas de segmento, tudo isso agora é feito através desse agente.”

O agente permite que sua equipe de vendas responda a perguntas muito específicas que os clientes possam ter. Por exemplo, o banco suporta moedas estrangeiras como o ringgit malaio se um cliente quiser lançar um cartão de crédito no país?

Como eles construíram isso

As capacidades de recomendação de múltiplos agentes estrearam na ferramenta Eliza do BNY.

Existem cerca de 13 agentes que “negociam entre si” para descobrir uma boa recomendação de produto, dependendo do segmento de mercado. Pattanaik explicou que os agentes variam de agentes funcionais, como agentes de clientes, até agentes de segmento que abrangem dados estruturados e não estruturados. Muitos dos agentes dentro da Eliza têm um “sentido de raciocínio.”

O banco entende que seu ecossistema de agentes não é totalmente autônomo. Como Pattanaik apontou, “a versão totalmente autônoma seria aquela que geraria automaticamente um PowerPoint que podemos apresentar ao cliente, mas não é isso que fazemos.”

Pattanaik disse que o banco recorreu ao Autogen da Microsoft para dar vida aos seus agentes de IA.

“Começamos com o Autogen, pois é de código aberto,” disse ele. “Geralmente, somos uma empresa de construção; sempre que podemos usar código aberto, fazemos isso.”

Pattanaik mencionou que o Autogen forneceu ao banco um conjunto de boas práticas que ele pode usar para fundamentar muitas das respostas dos agentes e torná-las mais determinísticas. O banco também estudou o LangChain para arquitetar o sistema.

O BNY construiu um framework ao redor do sistema agente que dá aos agentes um modelo para responder a solicitações. Para alcançar isso, os engenheiros de IA da empresa trabalharam em estreita colaboração com outros departamentos do banco. Pattanaik enfatizou que o BNY tem construído plataformas críticas para a missão há anos e escalou produtos como suas plataformas de compensação e colateral. Essa ampla base de conhecimento foi fundamental para ajudar os engenheiros de IA encarregados da plataforma de agentes a darem aos agentes a especialização necessária.

“Ter menos alucinações é uma característica que sempre ajuda, em comparação a ter apenas engenheiros de IA dirigindo o motor,” disse Pattanaik. “Nossos engenheiros de IA trabalharam muito de perto com os engenheiros full-stack que construíram os sistemas críticos para a missão para nos ajudar a solucionar o problema. Trata-se de componentizar para que seja reutilizável.”

Construir, por exemplo, um agente de recomendação de leads dessa forma permite que ele seja desenvolvido pelas diferentes linhas de negócios do BNY. Ele atua como um microserviço “que continua aprendendo, raciocinando e agindo.”

Expandindo Eliza

À medida que sua presença de agentes se expande, o BNY planeja atualizar ainda mais sua ferramenta de IA principal, Eliza. O BNY lançou a ferramenta em 2024, embora tenha estado em desenvolvimento desde 2023. Eliza permite que os funcionários do BNY acessem um mercado de aplicativos de IA, obtenham conjuntos de dados aprovados e busquem insights.

Pattanaik disse que a Eliza já está fornecendo um modelo para como o BNY pode seguir em frente com agentes de IA e oferecer aos usuários um serviço mais avançado e inteligente. Mas o banco não quer estagnar e deseja que a próxima iteração da Eliza seja mais inteligente.

“O que construímos usando a Eliza 1.0 é uma representação, e o aspecto de aprendizado das coisas,” disse Pattanaik. “Com a 2.0, vamos melhorar o processo e também perguntar, como construímos um ótimo agente? Se você pensar em agentes, trata-se de algo que pode aprender e raciocinar e, em algum momento, fornecer algumas ações sobre isso é uma pausa, isso não é uma pausa e assim por diante. Essa é a direção que estamos seguindo ao construir a 2.0, porque muitas coisas precisam ser configuradas em termos de garantias de risco, explicabilidade, transparência, ligações e assim por diante, antes que possamos nos tornar completamente autônomos.”