Présentation de la puce Grace Hopper de Nvidia pour les charges de travail centrées sur l'IA
Si Nvidia n'avait rien prévu pour les joueurs lors de sa keynote au Computex 2023, sa présentation était riche en produits centrés sur l'IA. Parmi eux, la Grace Hopper Superchip, une combinaison d'un processeur Grace et d'un GPU Hopper. Elle alimentera Le supercalculateur DGX GH2000 de Nvidia de Nvidia et une pléthore d'autres services.
Le processeur Grace comprend 72 cœurs de processeur Arm Neoverse V2, jusqu'à 480 Go de mémoire vive LPDDR5X (512 Go/s de bande passante) et 117 Mo de cache L3. Le GPU Hopper qui l'accompagne peut être configuré avec jusqu'à 96 Go de mémoire HBM3 (jusqu'à 4 TB/s de bande passante). Nvidia affirme qu'il offre jusqu'à 67 TFLOPS de performances FP32. De même, les cœurs Tensor inclus peuvent atteindre 67 TFLOPS en FP64.
Combinée, la Grace Hopper Superchip peut consommer jusqu'à 1 000 watts d'énergie, en fonction de la configuration. Le CPU et le GPU sont connectés via un module Nvlink qui fonctionne à 900 Go/s, soit 5 fois plus vite que le PCIe-Gen 5. La cohérence de la mémoire permet aux threads du CPU et du GPU d'accéder à la mémoire de l'autre, ce qui permet à son nouveau Transformer Engine de former des modèles d'intelligence artificielle 30 fois plus rapidement que les GPU existants. Par rapport aux solutions basées sur x86, la Grace Hopper Superchip est entre 2,75x et 3,9x plus rapide.
Les appareils équipés de la super puce Grace Hopper sont déjà disponibles dans de nombreuses régions, notamment aux États-Unis et en Europe. Si les rumeurs récentes sont exactes, nous pourrions même voir une version réduite de cette puce à côté de la prochaine Nintendo Switch .
Source(s)
