Empresas Estão Preparadas para Aumentar os Gastos com IA Generativa em 2X a 5X, Afirma Famosa Firma de Capital de Risco

A IA Generativa nas empresas está em um “ponto de inflexão”, afirma a famosa empresa de capital de risco Andreessen Horowitz. E eles dizem que sua nova pesquisa comprova isso.

Na pesquisa, a Andreessen conversou com dezenas de líderes de empresas da Fortune 500 e entrevistou mais 70, para entender como estão utilizando, adquirindo e orçando para a genAI.

“Ficamos surpresos com a mudança significativa na alocação de recursos e nas atitudes em relação à genAI nos últimos 6 meses”, escreveu a empresa.

Quase todas as empresas com as quais conversaram viram resultados iniciais promissores em seus experimentos com IA generativa. E essas empresas planejam aumentar seus gastos com IA generativa entre 2X a 5X em 2024.

Quais destaques são mais relevantes na pesquisa?

Consegui as informações com o fundador/CEO do Marketing AI Institute Paul Roetzer no episódio 89 do The Artificial Intelligence Show.

Empresas planejam aumentar gastos com genAI de 2X a 5X

Diz Andreessen:

Em 2023, o gasto médio com APIs de modelos fundamentais, auto-hospedagem e ajuste fino de modelos foi de $7 milhões entre as dezenas de empresas com as quais falamos. Além disso, quase todas as empresas com as quais conversamos viram resultados iniciais promissores em experimentos de genAI e planejam aumentar seus gastos entre 2X a 5X em 2024 para suportar a implementação de mais cargas de trabalho em produção.

“Os números do orçamento realmente me chamaram a atenção,” diz Roetzer. “Não são números insignificantes.”

Esse dinheiro está migrando de orçamentos de inovação pontuais para itens de linha de software permanentes.

ROI = aumento de produtividade

A IA oferece muitos benefícios. Mas o que as empresas estão medindo mais no momento é: ganhos de produtividade.

Diz Andreessen:

“Os líderes empresariais estão atualmente medindo principalmente o ROI pelos ganhos de produtividade gerados pela IA. Embora estejam confiando no NPS e na satisfação do cliente como boas métricas proxy, também estão buscando maneiras mais tangíveis de medir os retornos, como geração de receita, economias, eficiência e ganhos de precisão, dependendo do seu caso de uso.”

Isso definitivamente está em sintonia com o que Roetzer observa em seu trabalho com empresas.

A jogada óbvia de ROI é tornar a organização imediatamente mais eficiente e produtiva com IA. Mas, diz Roetzer, é preciso estabelecer benchmarks de desempenho antes e depois da IA. Sem esses benchmarks, você só está adivinhando.

O futuro é “multi-modelo”

Todas as empresas entrevistadas pela Andreessen estão agora testando múltiplos modelos.

“Há pouco mais de 6 meses, a grande maioria das empresas estava experimentando 1 modelo (geralmente o da OpenAI) ou 2 no máximo. Quando falamos com os líderes empresariais hoje, todos estão testando — e, em alguns casos, até usando em produção — múltiplos modelos, o que lhes permite 1) adaptar-se a casos de uso com base em desempenho, tamanho e custo, 2) evitar lock-in, e 3) acessar rapidamente os avanços em um campo que avança rapidamente.”

Isso também está perfeitamente alinhado com o que Roetzer está vendo.

Alguns modelos simplesmente são mais adequados para certos casos de uso.

“As pessoas querem evitar o lock-in e querem acessar rapidamente os avanços,” afirma ele.

Controle é o principal desejo — e barreira — para as empresas

Atualmente, as empresas estão mais preocupadas com o controle, e não com o custo. Diz Andreessen:

“Controle (segurança de dados proprietários e compreensão do porquê de os modelos produzirem determinados resultados) e personalização (capacidade de ajustar efetivamente para um dado caso de uso) superam em muito o custo como as principais razões para adotar o código aberto.”

Isso está levando a muitas decisões impulsionadas por provedores de serviços em nuvem, diz Roetzer. A IA do seu provedor de nuvem é uma escolha natural para suas necessidades.

“Em uma grande empresa onde você já tem um provedor confiável que já tem acesso a todos os seus dados, você está muito mais propenso a confiar nele para integrar isso, e você não precisa passar novamente pelo processo de aquisição.”