Qual LLM você deve usar? O Token Monster combina automaticamente vários modelos e ferramentas para você.

Token Monster, uma nova plataforma de chatbot de IA, lançou sua prévia alfa, com o objetivo de transformar a maneira como os usuários interagem com modelos de linguagem de grande escala (LLMs).

Desenvolvido por Matt Shumer, cofundador e CEO da OthersideAI e seu assistente de escrita de IA de sucesso Hyperwrite AI, o grande diferencial do Token Monster é sua capacidade de direcionar os prompts dos usuários para os melhores LLMs disponíveis para a tarefa em questão, oferecendo saídas aprimoradas ao aproveitar as forças de vários modelos.

Atualmente, existem sete LLMs principais disponíveis através do Token Monster. Assim que um usuário insere algo na caixa de entrada de prompt, o Token Monster utiliza pré-prompts desenvolvidos por Shumer para analisar automaticamente a entrada do usuário, determinar qual combinação de vários modelos disponíveis e ferramentas conectadas são mais adequadas para respondê-la e, em seguida, fornecer uma resposta combinada aproveitando as forças desses modelos. Os LLMs disponíveis incluem:

• Anthropic Claude 3.5 Sonnet
• Anthropic Claude 3.5 Opus
• OpenAI GPT-4.1
• OpenAI GPT-4o
• Perplexity AI PPLX (para pesquisa)
• OpenAI o3 (para raciocínio)
• Google Gemini 2.5 Pro

Diferentemente de outras plataformas de chatbot, o Token Monster identifica automaticamente qual LLM é o melhor para tarefas específicas — assim como quais ferramentas conectadas a LLM seriam úteis, como pesquisa na web ou ambientes de codificação — e orquestra um fluxo de trabalho multi-modelo.

“Estamos apenas construindo os conectores para tudo e, em seguida, um sistema que decide o que usar quando”, disse Shumer.

Por exemplo, pode-se usar o Claude para criatividade, o o3 para raciocínio e o PPLX para pesquisa, entre outros. Essa abordagem elimina a necessidade dos usuários escolherem manualmente o modelo certo para cada prompt, simplificando o processo para quem busca resultados personalizados e de alta qualidade.

Destaques das características

A prévia alfa, que atualmente é gratuita para inscrição em tokenmonster.ai, permite que os usuários façam upload de uma variedade de tipos de arquivos, incluindo Excel, PowerPoint e Docs.

Inclui também recursos como extração de páginas da web, sessões de conversa persistentes e um “modo RÁPIDO” que redireciona automaticamente para o melhor modelo sem entrada do usuário.

No coração do Token Monster está o OpenRouter, um serviço de terceiros que atua como um gateway para múltiplos LLMs, e no qual Shumer investiu uma pequena quantia, conforme admitido.

Essa arquitetura permite que o Token Monster acesse uma variedade de modelos de diferentes provedores sem precisar construir integrações separadas para cada um.

Preços e disponibilidade

Atualmente, o Token Monster não cobra uma taxa mensal fixa.

Em vez disso, os usuários pagam apenas pelos tokens que consomem através do OpenRouter, tornando-o flexível para diferentes níveis de uso.

Segundo Shumer, esse modelo foi inspirado no Cline, uma ferramenta que permite aos usuários de alto gasto acessar poder ilimitado de IA, permitindo assim melhores resultados simplesmente utilizando mais recursos computacionais.

Fluxos de trabalho multi-etapa produzem respostas LLM mais ricas

Os fluxos de trabalho de IA do Token Monster vão além do simples redirecionamento de prompts.

Em um exemplo, o chatbot pode começar com uma fase de pesquisa usando APIs de busca na web, passar esses dados para o o3 para identificar lacunas de informação, criar um esboço com o Gemini 2.5 Pro, redigir um texto com o Claude Opus e refiná-lo com o Claude 3.5 Sonnet.

Essa orquestração multi-etapa é projetada para fornecer respostas mais ricas e completas do que um único LLM poderia gerar sozinho.

A plataforma também inclui a capacidade de salvar sessões, com dados armazenados de forma segura usando o serviço de banco de dados online open-source Supabase. Isso garante que os usuários possam retornar a projetos em andamento sem perder seu trabalho, enquanto ainda mantêm controle sobre quais dados são salvos e quais são efêmeros.

Um CEO não tradicional

Em um experimento notável, a liderança do Token Monster foi transferida para o modelo Claude da Anthropic.

Shumer anunciou que está comprometido em seguir todas as decisões tomadas pelo “CEO Claude”, chamando isso de um teste para ver se uma IA pode gerenciar uma empresa efetivamente.

“Ou revolucionamos a gestão para sempre ou cometemos um grande erro,” escreveu ele no X.

Emergindo da controvérsia Reflection 70-B

O lançamento do Token Monster ocorre menos de um ano depois que Shumer enfrentou controvérsias sobre o seu lançamento e retirada final do Reflection 70B, uma versão ajustada do Llama 3.1 da Meta que foi inicialmente anunciada como o modelo open source mais performático do mundo, mas que rapidamente se tornou alvo de críticas e acusações de fraude após pesquisadores independentes não conseguirem reproduzir seu desempenho declarado em testes de benchmark.

Shumer se desculpou e disse que os problemas foram originados por erros cometidos devido à rapidez. O episódio ressaltou os desafios e riscos do desenvolvimento rápido de IA e a importância da transparência no lançamento de modelos.

Integrações MCP a caminho

Shumer disse que sua equipe no Token Monster também está explorando novas capacidades, como a integração com servidores do Protocolo de Contexto do Modelo (MCP) que permitem que websites e empresas tenham LLMs utilizando seu conhecimento, ferramentas e produtos para alcançar tarefas de nível superior além da simples geração de texto ou imagem.

Isso permitirá que o Token Monster se conecte com os dados internos e serviços de um usuário, abrindo possibilidades para que ele gerencie tarefas como atendimento a tickets de suporte ao cliente ou interfira com outros sistemas de negócios.

Shumer enfatizou que o Token Monster ainda está em seus estágios iniciais. Embora já suporte um conjunto de recursos poderosos, a plataforma continua sendo um produto alfa e deve passar por atualizações e iterações rápidas à medida que mais usuários fornecem feedback. “Vamos continuar iterando e adicionando coisas,” disse ele.

Um experimento promissor

Para usuários que desejam aproveitar o poder combinado de múltiplos LLMs sem a complicação de alternar entre modelos, o Token Monster pode ser uma escolha atraente. É projetado para pessoas que não querem passar horas ajustando prompts ou testando diferentes modelos, permitindo que o roteamento automatizado do sistema e os fluxos de trabalho multi-etapas lidem com a complexidade.

À medida que as capacidades do Token Monster crescem, será interessante ver como usuários e empresas o adotam — e como seu experimento com a gestão liderada por IA se desenvolve. Por enquanto, é uma adição promissora ao crescente cenário de chatbots de IA e assistentes digitais.