La rumeur veut que le GH100 Hopper de Nvidia comporte plus de 140 milliards de transistors et que l'architecture GPU MCM basée sur le COPA puisse théoriquement offrir jusqu'à 233 Go de VRAM HBM2
Nvidia Hopper est un nom qui revient de temps en temps dans les rumeurs depuis un certain temps maintenant. La GH100 Hopper est censée succéder à la GA100 Ampere et sera une carte axée sur le calcul haute performance (HPC), tandis que sa contrepartie grand public devrait être la suivante AD102 Lovelace. Nous avions précédemment rapporté sur la taille de la puce du GH100, et nous apprenons maintenant le nombre probable de transistors.
Cette information provient d'un poster de Zhangzhonghao sur les forums de Chiphell. L'OP n'a pas mentionné le GH100 ou le Hopper par son nom, mais a posté "140 milliards+... c'est vraiment effrayant, une super bombe nucléaire" (traduction automatique du chinois). Mais il n'est pas difficile de deviner qu'il faisait référence au prochain accélérateur HPC de 5 nm de Nvidia. Si cette rumeur est vraie, le nombre de transistors de Hopper est environ 2,58 fois supérieur à celui du GA100 Ampere (54,2 milliards) et 2,40 fois supérieur à celui du AMD Aldebaran Instinct MI200 (58,2 milliards).
Récemment, le divulgateur connu @kopite7kimi a affirmé sur Twitter que le GH100 Hopper pourrait avoir une surface de matrice légèrement inférieure à 1000 mm2. Cependant, la limite actuelle du réticule lithographique de 858 mm2 rend son affirmation un peu difficile à croire pour le moment. Si nous supposons que la surface de la puce est de 900 mm2, le GH100 Hopper pourrait présenter un nombre impressionnant de 150 millions de transistors par mm2 sur le nœud de 5 nm. 3DCenter a fait quelques calculs rapides et est arrivé à des chiffres qui indiquent 486 ou 972 millions de transistors par multiprocesseur d'ombrage (144 SM au total) selon que Hopper aura un "modeste" 70 milliards de transistors ou les 140 milliards réels.
Ces chiffres indiquent que Hopper sera probablement un module multi-puces (MCM), comme on l'a spéculé depuis longtemps. Cependant, de récentes rumeurs indiquent que nous verrons un dé monolithique pour la plupart. Il n'est pas clair à ce stade si Nvidia offrira Hopper dans les deux variantes monolithique et MCM.
Dans un récent article de recherche https://dl.acm.org/doi/10.1145/3484505 publié dans le journal ACM Transactions on Architecture and Code Optimization, Nvidia soulève la question de la combinaison des charges de travail d'apprentissage profond (DL) basées sur FP16 et des charges de travail HPC basées sur FP32 et plus sur un seul GPU
Le document postule les avantages d'une architecture GPU composable on-package (COPA-GPU) avec une conception MCM et fait également allusion à un mystérieux GPU-N avec 8 576 cœurs CUDA et 100 Go de VRAM HBM2.
Nvidia a également fait référence à plusieurs conceptions avec un cache de dernier niveau (LLC) variant de 60 Mo (dans GPU-N) à 1 920 Mo (dans COPA-GPU 5) et des capacités de RAM allant de 100 Go à 233 Go. Bien sûr, tout cela reste théorique, mais il est possible que certaines de ces variantes fassent partie de la famille Hopper.
Nous nous attendons à ce que Nvidia parle du GH100 Hopper lors de la keynote GTC 2022 de la société le 21 mars.
Source(s)
Forum de Chiphell (chinois)
