A Evolução Mental da DeepMind: Capacitando Modelos de Linguagem de Grande Escala para a Solução de Problemas do Mundo Real

Nos últimos anos, a inteligência artificial (IA) tem se destacado como uma ferramenta prática para impulsionar a inovação em diversas indústrias. No centro desse progresso estão os grandes modelos de linguagem (LLMs), conhecidos por sua capacidade de entender e gerar linguagem humana. Embora os LLMs tenham um bom desempenho em tarefas como IA conversacional e criação de conteúdo, frequentemente enfrentam dificuldades com desafios complexos do mundo real que exigem raciocínio estruturado e planejamento.

Por exemplo, se você pedir a um LLM para planejar uma viagem de negócios multi-cidade que envolva a coordenação de horários de voos, horários de reuniões, restrições orçamentárias e descanso adequado, ele pode fornecer sugestões para aspectos individuais. No entanto, eles muitas vezes enfrentam dificuldades em integrar esses aspectos para equilibrar efetivamente prioridades concorrentes. Essa limitação se torna ainda mais evidente à medida que os LLMs são cada vez mais utilizados para construir agentes de IA capazes de resolver problemas do mundo real de forma autônoma.

A Google DeepMind desenvolveu recentemente uma solução para lidar com esse problema. Inspirada pela seleção natural, essa abordagem, conhecida como Evolução Mental, refina estratégias de resolução de problemas por meio da adaptação iterativa. Ao guiar os LLMs em tempo real, permite que eles lidem de forma eficaz com tarefas complexas do mundo real e se adaptem a cenários dinâmicos. Neste artigo, exploraremos como esse método inovador funciona, suas potenciais aplicações e o que isso significa para o futuro da resolução de problemas impulsionada por IA.

Por Que os LLMs Têm Dificuldade com Raciocínio e Planejamento Complexos

Os LLMs são treinados para prever a próxima palavra em uma frase, analisando padrões em grandes conjuntos de dados textuais, como livros, artigos e conteúdo online. Isso permite que eles gerem respostas que parecem lógicas e contextualmente apropriadas. No entanto, esse treinamento é baseado no reconhecimento de padrões em vez da compreensão do significado. Como resultado, os LLMs podem produzir textos que parecem lógicos, mas têm dificuldades com tarefas que requerem raciocínio mais profundo ou planejamento estruturado.

A principal limitação está na forma como os LLMs processam informações. Eles se concentram em probabilidades ou padrões em vez de lógica, o que significa que podem lidar com tarefas isoladas, como sugerir opções de voos ou recomendações de hotéis, mas falham quando essas tarefas precisam ser integradas em um plano coeso. Isso também dificulta a manutenção do contexto ao longo do tempo. Tarefas complexas frequentemente requerem a manutenção de decisões anteriores e adaptação à medida que novas informações surgem. No entanto, os LLMs tendem a perder o foco em interações prolongadas, levando a saídas fragmentadas ou inconsistentes.

Como Funciona a Evolução Mental

A Evolução Mental da DeepMind aborda essas deficiências adotando princípios da evolução natural. Em vez de produzir uma única resposta a uma consulta complexa, essa abordagem gera múltiplas soluções potenciais, refina-as de forma iterativa e seleciona o melhor resultado por meio de um processo de avaliação estruturado. Por exemplo, considere uma equipe que está fazendo um brainstorming de ideias para um projeto. Algumas ideias são ótimas, outras menos. A equipe avalia todas as ideias, mantendo as melhores e descartando as demais. Depois, eles melhoram as melhores ideias, introduzem novas variações e repetem o processo até chegar à melhor solução. A Evolução Mental aplica esse princípio aos LLMs.

Aqui está uma divisão de como funciona:

1. Geração: O processo começa com o LLM criando múltiplas respostas para um problema dado. Por exemplo, em uma tarefa de planejamento de viagem, o modelo pode elaborar vários itinerários com base em orçamento, tempo e preferências do usuário.
2. Avaliação: Cada solução é avaliada em relação a uma função de aptidão, uma medida de quão bem ela atende aos requisitos da tarefa. Respostas de baixa qualidade são descartadas, enquanto as candidatas mais promissoras avançam para a próxima etapa.
3. Refinamento: Uma inovação única da Evolução Mental é o diálogo entre duas personas dentro do LLM: o Autor e o Crítico. O Autor propõe soluções, enquanto o Crítico identifica falhas e oferece feedback. Esse diálogo estruturado espelha como os humanos refinam ideias através da crítica e revisão. Por exemplo, se o Autor sugerir um plano de viagem que inclua uma visita a um restaurante que excede o orçamento, o Crítico aponta isso. O Autor então revisa o plano para atender às preocupações do Crítico. Esse processo permite que os LLMs realizem análises profundas que não puderam realizar previamente usando outras técnicas de prompting.
4. Otimização Iterativa: As soluções refinadas passam por uma nova avaliação e recombinação para produzir soluções aprimoradas.

Ao repetir esse ciclo, a Evolução Mental melhora iterativamente a qualidade das soluções, permitindo que os LLMs enfrentem desafios complexos de forma mais eficaz.

Evolução Mental em Ação

A DeepMind testou essa abordagem em referências, como TravelPlanner e Natural Plan. Usando essa abordagem, o Gemini do Google alcançou uma taxa de sucesso de 95,2% no TravelPlanner, uma melhoria impressionante em relação a uma linha de base de 5,6%. Com o mais avançado Gemini Pro, as taxas de sucesso aumentaram para quase 99,9%. Esse desempenho transformador demonstra a eficácia da Evolução Mental em enfrentar desafios práticos.

Curiosamente, a eficácia do modelo cresce com a complexidade da tarefa. Por exemplo, enquanto métodos de passagem única lutavam com itinerários de vários dias envolvendo várias cidades, a Evolução Mental consistentemente superou, mantendo altas taxas de sucesso mesmo à medida que o número de restrições aumentava.

Desafios e Direções Futuras

Apesar do seu sucesso, a Evolução Mental não está isenta de limitações. A abordagem requer recursos computacionais significativos devido aos processos de avaliação e refinamento iterativos. Por exemplo, resolver uma tarefa de TravelPlanner com a Evolução Mental consumiu três milhões de tokens e 167 chamadas de API—substancialmente mais do que métodos convencionais. No entanto, a abordagem continua sendo mais eficiente do que estratégias de força bruta, como busca exaustiva.

Adicionalmente, projetar funções de aptidão eficazes para certas tarefas pode ser um desafio. Pesquisas futuras podem se concentrar em otimizar a eficiência computacional e expandir a aplicabilidade da técnica a uma gama mais ampla de problemas, como escrita criativa ou tomada de decisão complexa.

Outra área interessante para exploração é a integração de avaliadores específicos de domínio. Por exemplo, em diagnósticos médicos, incorporar conhecimento de especialistas na função de aptidão poderia aumentar ainda mais a precisão e confiabilidade do modelo.

Aplicações Além do Planejamento

Embora a Evolução Mental tenha sido principalmente avaliada em tarefas de planejamento, ela poderia ser aplicada a vários domínios, incluindo escrita criativa, descoberta científica e até mesmo geração de código. Por exemplo, pesquisadores introduziram uma referência chamada StegPoet, que desafia o modelo a codificar mensagens ocultas dentro de poemas. Embora essa tarefa continue a ser difícil, a Evolução Mental supera métodos tradicionais ao alcançar taxas de sucesso de até 79,2%.

A capacidade de adaptar e evoluir soluções em linguagem natural abre novas possibilidades para enfrentar problemas que são difíceis de formalizar, como melhorar fluxos de trabalho ou gerar designs de produtos inovadores. Ao empregar o poder de algoritmos evolutivos, a Evolução Mental fornece uma estrutura flexível e escalável para aumentar as capacidades de resolução de problemas dos LLMs.

Em Resumo

A Evolução Mental da DeepMind introduz uma maneira prática e eficaz de superar limitações chave nos LLMs. Ao usar refinamento iterativo inspirado pela seleção natural, ela aprimora a capacidade desses modelos de lidar com tarefas complexas e multietapas que requerem raciocínio estruturado e planejamento. A abordagem já demonstrou sucesso significativo em cenários desafiadores, como planejamento de viagens, e demonstra promessas em diversos domínios, incluindo escrita criativa, pesquisa científica e geração de código. Embora desafios como altos custos computacionais e a necessidade de funções de aptidão bem projetadas persistam, a abordagem fornece uma estrutura escalável para melhorar as capacidades de IA. A Evolução Mental prepara o terreno para sistemas de IA mais poderosos capazes de raciocinar e planejar para resolver desafios do mundo real.