xAI atrai desenvolvedores com créditos de API no valor de $25/mês

Já sabemos há algum tempo, mas agora está confirmado: A corrida da IA generativa é tanto uma competição para desenvolvedores quanto para usuários finais.

Por exemplo: Hoje, a xAI de Elon Musk, a startup derivada da rede social X que utiliza seus dados para treinar novos modelos de linguagem de grande escala (LLMs) como a família Grok, anunciou que sua interface de programação de aplicativos (API) está agora aberta ao público e com isso vem $25 gratuitos por mês em créditos de API até o final do ano.

Dado que já estamos em novembro, isso significa apenas 2 meses de créditos gratuitos, ou $50 no total.

https://twitter.com/xai/status/1853505214181232828

Musk anunciou anteriormente que a API da xAI estava aberta em beta há três semanas, mas aparentemente a adesão não foi suficiente para sua satisfação, daí o incentivo adicional de créditos gratuitos para desenvolvedores.

$25 por mês com 2 meses restantes é realmente um incentivo atrativo?

Não parece muito vindo do homem mais rico do mundo e bilionário, e não é realmente em uma base por usuário nem em agregado, mas pode ser o suficiente para atrair alguns desenvolvedores a pelo menos testar as ferramentas e a plataforma da xAI para construir aplicativos utilizando os modelos Grok.

Especificamente, a API da xAI tem um preço de $5 por milhão de tokens de entrada e $15 por milhão de saída, comparado aos $2,50/$10 para o modelo GPT-4o da OpenAI e $3/$15 para o modelo Claude 3.5 Sonnet da Anthropic. No final, isso significa que os $25 de crédito da xAI não levarão o desenvolvedor muito longe — apenas cerca de dois milhões de tokens de entrada e um milhão de saída por mês. Para referência, um milhão de tokens é equivalente a 7-8 romances em palavras.

O limite de contexto, ou quantos tokens podem ser inseridos ou enviados em uma interação através da API, é de cerca de 128.000, semelhante ao GPT-4o da OpenAI e abaixo da janela de 200.000 tokens da Anthropic, e bem abaixo da janela de contexto de 1 milhão do Google Gemini 1.5 Flash.

Além disso, a partir do meu breve teste da xAPI, consegui acessar apenas o grok-beta e apenas texto, sem capacidades de geração de imagens como as encontradas no Grok 2 (impulsionado pelo modelo Flux.1 do Black Forest Labs).

Novos modelos Grok chegando em breve

De acordo com o post do blog da xAI, isso é na verdade “um preview de um novo modelo Grok que está atualmente em suas fases finais de desenvolvimento,” e um novo “modelo de visão Grok estará disponível na próxima semana.”

Além disso, a xAI observa que o grok-beta suporta “chamada de função,” ou a capacidade do LLM de receber comandos de um usuário e acessar funções de outros aplicativos e serviços conectados, podendo até executá-los em nome do usuário (se o aplicativo conectado permitir tal acesso).

Compatível com a concorrência

Além disso, a conta da xAI na rede social X postou que a API da xAI é “compatível com os SDKs da OpenAI & Anthropic,” ou os kits de desenvolvimento de software de diferentes ferramentas web usadas pelos desenvolvedores dessas plataformas, o que significa que deve ser relativamente fácil trocar esses modelos pelos grok-beta ou outros na plataforma xAI.

A xAI ativou recentemente seu supercluster “Colossus” de 100.000 GPUs Nvidia H100 em Memphis, Tennessee, que está sendo usado para treinar seus novos modelos — o maior ou um dos maiores do mundo — então aparentemente essa instalação já está em pleno funcionamento.

O que você acha? É o suficiente para fazer com que os desenvolvedores da audiência da VentureBeat tentem construir acima da xAI? Deixe-me saber: carl.franzen@venturebeat.com.