Bolt42

A plataforma de desenvolvimento de IA Hugging Face fez uma parceria com provedores de nuvem de terceiros, incluindo a SambaNova, para lançar os Inference Providers, um recurso projetado para facilitar a execução de modelos de IA pelos desenvolvedores no Hugging Face, utilizando a infraestrutura de sua escolha.

Outros parceiros envolvidos neste novo esforço incluem Fal, Replicate e Together AI.

A Hugging Face afirma que seus parceiros trabalharam em conjunto para integrar o acesso a seus respectivos data centers para a execução de modelos na plataforma Hugging Face. Agora, os desenvolvedores podem, por exemplo, iniciar um modelo DeepSeek nos servidores da SambaNova a partir de uma página de projeto da Hugging Face em apenas alguns cliques.

A Hugging Face há muito tempo oferece sua própria solução interna para a execução de modelos de IA. No entanto, em um post de blog na terça-feira, a empresa explicou que seu foco mudou para colaboração, armazenamento e capacidades de distribuição de modelos.

Hugging Face Inference Providers
Opções de provedores de inferência como aparecem nas páginas de projeto do Hugging Face.Créditos da Imagem:Hugging Face

“Os provedores serverless prosperaram, e o momento era oportuno para a Hugging Face oferecer acesso fácil e unificado à inferência serverless por meio de um conjunto de ótimos provedores,” escreveu a empresa no post. “[Era] natural fazer parceria com a próxima geração de provedores de inferência serverless para uma inferência centrada em modelos e sem servidor.”

A inferência serverless permite que os desenvolvedores implantem e escalem modelos de IA sem a necessidade de configurar ou gerenciar o hardware subjacente. Provedores como a SambaNova lançam automaticamente os recursos computacionais necessários e os escalam para cima ou para baixo, dependendo do uso.

A Hugging Face afirma que os desenvolvedores que utilizarem provedores de nuvem de terceiros por meio de sua plataforma pagarão as taxas padrão da API do provedor, pelo menos por enquanto. (A Hugging Face pode estabelecer acordos de compartilhamento de receitas com parceiros provedores no futuro, diz a empresa.) Todos os usuários do Hugging Face recebem uma pequena cota de créditos para utilizar em inferência, e os assinantes do Hugging Face Pro, o nível premium da empresa, recebem um adicional de $2 em créditos por mês.

Hugging Face Inference Providers
O menu de configurações para os Provedores de Inferência.Créditos da Imagem:Hugging Face

Fundada em 2016 como uma startup de chatbot, a Hugging Face se tornou uma das maiores plataformas de hospedagem e desenvolvimento de modelos de IA do mundo. Até agora, a Hugging Face arrecadou quase $400 milhões em capital de investidores, incluindo Salesforce, Google, Amazon e Nvidia. A empresa afirma ser lucrativa.

A TechCrunch tem um boletim informativo focado em IA! Inscreva-se aqui para recebê-lo na sua caixa de entrada todas as quartas-feiras.


    dezesseis + quatro =

    Bolt42