Bolt42

Junte-se aos nossos boletins diários e semanais para as últimas atualizações e conteúdo exclusivo sobre a cobertura líder do setor em IA. Saiba mais


A Nvidia revelou hoje o Nvidia Projeto Digits, um supercomputador pessoal de IA que fornece aos pesquisadores de IA, cientistas de dados e estudantes em todo o mundo acesso ao poder da plataforma Nvidia Grace Blackwell
.

O Projeto Digits apresenta o novo Superchip Nvidia GB10 Grace Blackwell, que oferece um petaflop de desempenho de computação em IA para prototipagem, ajuste fino e execução de grandes modelos de IA. A empresa fez o anúncio durante a keynote de abertura do CEO Jensen Huang na CES 2025, a grande feira de tecnologia que acontece esta semana em Las Vegas.

Com o Projeto Digits, os usuários podem desenvolver e executar inferências em modelos usando seu próprio sistema desktop, e depois implantar os modelos de forma integrada em infraestrutura de nuvem acelerada ou em data centers. É baseado em um “chip super secreto chamado GB110, o menor Blackwell que conseguimos fazer”, disse Huang.

Nvidia Project Digits
Nvidia Project Digits

“A IA será comum em todas as aplicações de todas as indústrias. Com o Projeto Digits, o Superchip Grace Blackwell chega a milhões de desenvolvedores”, disse Huang. “Colocar um supercomputador de IA nas mesas de cada cientista de dados, pesquisador de IA e estudante os capacita a envolver-se e moldar a era da IA.”

Superchip GB10 fornece um petaflop de desempenho de IA eficiente em energia

O Superchip GB10 é um sistema-em-um-chip (SoC) baseado na arquitetura Nvidia Grace Blackwell. Ele entrega até um petaflop de desempenho de IA com precisão FP4.

O GB10 utiliza uma GPU Nvidia Blackwell com núcleos CUDA de última geração e núcleos Tensor de quinta geração, conectados via interconexão NVLink-C2C chip-a-chip a uma CPU Nvidia Grace de alto desempenho, que inclui 20 núcleos eficientes em energia construídos com arquitetura Arm. A MediaTek, um líder de mercado em designs de SoC baseados em Arm, colaborou no design do GB10, contribuindo para sua eficiência energética, desempenho e conectividade de classe mundial.

O Superchip GB10 permite que o Projeto Digits forneça desempenho poderoso utilizando apenas uma tomada elétrica padrão. Cada unidade do Projeto Digits conta com 128GB de memória unificada e coerente e até 4TB de armazenamento NVMe. Com o supercomputador, os desenvolvedores podem executar modelos de linguagem de até 200 bilhões de parâmetros. Além disso, usando a rede Nvidia ConnectX, duas unidades do Projeto Digits podem ser conectadas para executar modelos de até 405 bilhões de parâmetros.

Supercomputação de IA Grace Blackwell ao alcance

Existem 72 chips Blackwell nesta pastilha.

Com a arquitetura Grace Blackwell, empresas e pesquisadores podem prototipar, ajustar e testar modelos em sistemas locais do Projeto Digits executando o sistema operacional Nvidia DGX baseado em Linux, e então implantá-los de forma integrada na Nvidia DGX Cloud, instâncias aceleradas em nuvem ou infraestrutura de data center.

Isso permite que os desenvolvedores prototipem IA no Projeto Digits e escalem em infraestrutura de nuvem ou data center, utilizando a mesma arquitetura Grace Blackwell e a plataforma de software Nvidia AI Enterprise.

Os usuários do Projeto Digits têm acesso a uma extensa biblioteca de software de IA da Nvidia para experimentação e prototipagem, incluindo kits de desenvolvimento de software, ferramentas de orquestração, frameworks e modelos disponíveis no catálogo Nvidia NGC e no portal do desenvolvedor da Nvidia. Os desenvolvedores podem ajustar modelos com o
framework Nvidia NeMo, acelerar a ciência de dados com bibliotecas Nvidia Rapids e executar frameworks comuns, como PyTorch, Python e Jupyter notebooks.

Para construir aplicações de IA autônoma, os usuários também podem aproveitar os blueprints da Nvidia e os microsserviços Nvidia NIM, que estão disponíveis para pesquisa, desenvolvimento e testes por meio do Programa de Desenvolvedores Nvidia. Quando as aplicações de IA estão prontas para serem transferidas de ambientes de experimentação para produção, a licença Nvidia AI Enterprise oferece segurança, suporte e lançamentos de produtos empresariais do software de IA da Nvidia.

Disponibilidade

O Projeto Digits está a caminho.

O Projeto Digits estará disponível em maio pela Nvidia e principais parceiros, a partir de $3,000.

“Ao tornar os modelos Llama de código aberto, estamos comprometidos em democratizar o acesso à tecnologia de IA de ponta. Com o Projeto Digits, os desenvolvedores podem aproveitar o poder do Llama localmente, desbloqueando novas possibilidades para inovação e colaboração”, disse Ahmad Al-Dahle, chefe de GenAI na Meta, em uma declaração.

“Avançar na IA requer ferramentas que capacitem os pesquisadores a experimentar em escala, velocidade e precisão. O Projeto Digits da Nvidia representa um avanço significativo. Estou animado para ver como 128 GB em um fator de forma tão pequeno podem avançar o futuro da IA empresarial,” disse Silvio Savarese, cientista-chefe da Salesforce, em uma declaração.

“Na Hugging Face, queremos tornar fácil para os desenvolvedores construírem suas próprias IA,” disse Je Boudier, chefe de produto da Hugging Face, em uma declaração. “O Projeto Digits da Nvidia permitirá que os criadores de IA construam e executem seus próprios modelos e sistemas de Gen AI na borda. Com 128 GB de memória unificada, os criadores de IA podem executar modelos de 200 bilhões de parâmetros localmente e conectar várias unidades do Projeto Digits para escalá-los a partir daí. Mal posso esperar para ver o que a comunidade Hugging Face irá construir com o Nvidia Project Digits.”

“O Projeto Digits da Nvidia é uma potência que você pode segurar na palma da sua mão. Com duas unidades do Projeto Digits, os desenvolvedores podem facilmente trabalhar com modelos de IA de até 405 bilhões de parâmetros. Mal podemos esperar para ver os aplicativos que as pessoas irão construir com isso,” disse Michael Chiang, cofundador da Ollama, em uma declaração.





    14 − seis =




    Bolt42