CES 2025 | Nvidia dévoile le supercalculateur d'IA Project DIGITS pour les développeurs d'IA de bureau
Nvidia a dévoilé le supercalculateur d'IA Project DIGITS pour les utilisateurs d'ordinateurs de bureau au CES 2025. Le supercalculateur est équipé d'une Grace Blackwell Superchip GB10 qui permet aux utilisateurs d'exécuter de grands modèles de langage (LLM) comportant jusqu'à 200 milliards de paramètres sur une seule unité, et jusqu'à 405 milliards de paramètres sur deux unités en réseau.
Le développement de LLM d'IA nécessite des ordinateurs puissants pour gérer la quantité de données traitées. L'une des mesures de la puissance d'un LLM est le nombre de paramètres avec lesquels il est développé. Les modèles comportant un plus grand nombre de paramètres obtiennent généralement de meilleurs résultats aux tests de raisonnement et de connaissance de l'IA.
La plupart des développeurs d'IA de bureau utilisent des GPU locaux tels que le Nvidia 4090(vendu ici sur Amazon), qui sont limités en termes de performances et de taille de modèle, soit des services de GPU en nuage par abonnement, qui sont plus coûteux. La taille de la mémoire vive du Nvidia 4090 limite le développement LLM à environ 30 milliards de paramètres. Malheureusement, les récents modèles d'IA open-source dépassent de loin les capacités du Nvidia 4090. Par exemple, le modèle Grok-1 de xAI ( ) est un modèle à 314 milliards de paramètres.
Le projet DIGITS gère facilement ces modèles dans une configuration à deux unités utilisant des adaptateurs de réseau ConnectX de Nvidia. Chaque unité contient un CPU ARM à 20 cœurs, un GPU Nvidia Blackwell, 128 Go de RAM DDR5X et 4 To de stockage NVMe. Chaque GPU Blackwell est capable d'une performance de calcul IA FP4 de 1 PetaFLOP. Bien que le passage de FP16 ou FP8 à FP4 réduise la précision de chaque calcul, Nvidia a consacré beaucoup d'efforts à permettre le développement de LLM sur FP4 avec une précision de sortie similaire. Le GPU est également capable de traiter les données d'entraînement LLM plus rapidement car le FP4 utilise moins de bits.
Le principal avantage de l'utilisation de Project DIGITS par rapport à d'autres solutions est la possibilité de déplacer facilement les projets des systèmes locaux vers le cloud en utilisant la même architecture GPU Grace Blackwell fonctionnant sur la plateforme Nvidia AI Enterprise. Les développeurs d'IA intéressés peuvent s'inscrire sur le site Nvidia Project DIGITS pour être informés du lancement prévu en mai 2025 de l'unité à plus de 3 000 dollars.
Source(s)
NVIDIA met Grace Blackwell sur chaque bureau et au bout des doigts de chaque développeur d'IA
Le projet DIGITS de NVIDIA, doté d'une nouvelle puce GB10, devient le plus petit supercalculateur d'IA au monde capable de faire tourner des modèles de 200 milliards de paramètres
6 janvier 2025
NVIDIA met Grace Blackwell sur tous les bureaux et au bout des doigts de tous les développeurs d'IA
CES-NVIDIA dévoile aujourd'hui NVIDIA® Project DIGITS, un supercalculateur personnel d'IA qui permet aux chercheurs en IA, aux data scientists et aux étudiants du monde entier d'accéder à la puissance de la plate-forme NVIDIA Grace Blackwell.
Project DIGITS est équipé de la nouvelle super-puce NVIDIA GB10 Grace Blackwell, qui offre une performance informatique d'IA d'un pétaflop pour le prototypage, la mise au point et l'exécution de grands modèles d'IA.
Avec Project DIGITS, les utilisateurs peuvent développer et exécuter des inférences sur des modèles en utilisant leur propre système de bureau, puis déployer de façon transparente les modèles sur une infrastructure accélérée de cloud ou de centre de données.
"L'IA va se généraliser dans toutes les applications et dans tous les secteurs d'activité. Avec le projet DIGITS, la Grace Blackwell Superchip est mise à la disposition de millions de développeurs ", a déclaré Jensen Huang, fondateur et CEO de NVIDIA. "Placer un supercalculateur d'IA sur le bureau de chaque scientifique, chercheur et étudiant en IA leur permet de s'engager et de façonner l'ère de l'IA "
La super-puce GB10 fournit un pétaflop de performances d'IA économes en énergie
La super-puce GB10 est un système sur puce (SoC) basé sur l'architecture Grace Blackwell de NVIDIA et fournit jusqu'à 1 pétaflop de performance d'IA à la précision FP4.
Le GB10 est équipé d'un GPU NVIDIA Blackwell avec des cœurs CUDA® de dernière génération et des cœurs Tensor de cinquième génération, connectés via l'interconnexion puce à puce NVLink®-C2C à un CPU NVIDIA Grace™ haute performance, qui comprend 20 cœurs économes en énergie construits avec l'architecture Arm. MediaTek, leader du marché des conceptions de SoC basés sur l'architecture Arm, a collaboré à la conception du GB10, contribuant ainsi à son efficacité énergétique, ses performances et sa connectivité, les meilleures de sa catégorie.
La super puce GB10 permet au Project DIGITS d'offrir de puissantes performances en utilisant seulement une prise électrique standard. Chaque Project DIGITS dispose de 128 Go de mémoire unifiée et cohérente et jusqu'à 4 To de stockage NVMe. Avec le supercalculateur, les développeurs peuvent faire tourner jusqu'à 200 milliards de modèles de grand langage pour accélérer l'innovation en matière d'IA. De plus, grâce au réseau NVIDIA ConnectX®, deux supercalculateurs Project DIGITS AI peuvent être reliés pour exécuter jusqu'à 405 milliards de modèles de paramètres.
Le supercalculateur d'IA Grace Blackwell à portée de main
Avec l'architecture Grace Blackwell, les entreprises et les chercheurs peuvent prototyper, affiner et tester des modèles sur des systèmes Project DIGITS locaux fonctionnant sous NVIDIA DGX OS basé sur Linux, puis les déployer en toute transparence sur NVIDIA DGX Cloud™, des instances de cloud accélérées ou une infrastructure de centre de données.
Cela permet aux développeurs de prototyper l'IA sur Project DIGITS, puis de la faire évoluer sur une infrastructure cloud ou de centre de données, en utilisant la même architecture Grace Blackwell et la plateforme logicielle NVIDIA AI Enterprise.
Les utilisateurs de Project DIGITS peuvent accéder à une vaste bibliothèque de logiciels d'IA de NVIDIA pour l'expérimentation et le prototypage, y compris des kits de développement logiciel, des outils d'orchestration, des cadres et des modèles disponibles dans le catalogue NVIDIA NGC et sur le portail NVIDIA Developer. Les développeurs peuvent affiner les modèles avec le framework NVIDIA NeMo™, accélérer la science des données avec les bibliothèques NVIDIA RAPIDS™ et exécuter des frameworks communs tels que PyTorch, Python et les carnets Jupyter.
Pour créer des applications d'IA agentique, les utilisateurs peuvent également exploiter les Blueprints NVIDIA et les microservices NVIDIA NIM™, qui sont disponibles pour la recherche, le développement et les tests via le programme des développeurs NVIDIA. Lorsque les applications d'IA sont prêtes à passer de l'expérimentation aux environnements de production, la licence NVIDIA AI Enterprise fournit une sécurité de niveau entreprise, un support et des versions de produits du logiciel d'IA de NVIDIA.
Disponibilité
Project DIGITS sera disponible en mai auprès de NVIDIA et de ses principaux partenaires, à partir de 3 000 $. Inscrivez-vous dès aujourd'hui pour recevoir des notifications.
