Bolt42

O CEO da OpenAI, Sam Altman, afirmou que a empresa teve que atrasar o lançamento de seu mais novo modelo, o GPT-4.5, porque a OpenAI está “sem GPUs”.

Em uma publicação no X, Altman disse que o GPT-4.5, que ele descreveu como “gigante” e “caro”, vai necessitar de “dezena de milhares” de GPUs a mais antes que mais usuários do ChatGPT possam ter acesso. O GPT-4.5 será disponibilizado primeiro para assinantes do ChatGPT Pro a partir de quinta-feira, seguido pelos clientes do ChatGPT Plus na próxima semana.

Talvez, em parte devido ao seu tamanho colossal, o GPT-4.5 seja extremamente caro. A OpenAI está cobrando $75 por milhão de tokens (~750.000 palavras) inseridos no modelo e $150 por milhão de tokens gerados pelo modelo. Isso equivale a 30 vezes o custo de entrada e 15 vezes o custo de saída do modelo GPT-4o, que é o “cavalo de batalha” da OpenAI.

“Crescemos muito e estamos sem GPUs,” escreveu Altman. “Vamos adicionar dezenas de milhares de GPUs na próxima semana e disponibilizá-las para o nível Plus… Esta não é a forma como queremos operar, mas é difícil prever perfeitamente os surtos de crescimento que levam a escassez de GPUs.”

Altman já mencionou anteriormente que a falta de capacidade computacional está atrasando os produtos da empresa. A OpenAI espera combater isso nos próximos anos, desenvolvendo seus próprios chips de IA e construindo uma enorme rede de centros de dados.


    2 × três =

    Bolt42