Microsoft présente un silicium personnalisé pour l'IA et le cloud : l'ARM Cobalt 100 à 128 cœurs et le Maia 100 en 5 nm visent à répondre aux besoins de formation et d'inférence de la prochaine génération d'IA
Spéculations sur les projets de Les projets de Microsoft d'emprunter la voie du silicium personnalisé se multiplient depuis un certain temps déjà. Microsoft utilise des processeurs basés sur Qualcomm, tels que le SQ1, SQ2et le SQ3 (Snapdragon 8cx Gen 3) pour sa gamme Surface. Cependant, des informations selon lesquelles l'entreprise envisagerait d'utiliser ses propres conceptions ARM internes pour les serveurs ont commencé à circuleren 2020même.
Lors de la conférence Microsoft Ignite, l'entreprise a dévoilé deux circuits intégrés personnalisés conçus pour répondre à ses projets ambitieux en matière d'intelligence artificielle : l'accélérateur d'intelligence artificielle Azure Maia 100 et le processeur personnalisé Azure Cobalt 100. Microsoft déploiera d'abord ces puces au début de l'année prochaine dans ses propres centres de données qui alimentent Copilot et le service Azure OpenAI.
Microsoft ne révèle pas beaucoup d'informations techniques sur les puces elles-mêmes. Elle précise toutefois que la Maia 100 est une puce 5 nm dotée de 105 milliards de transistors, ce qui en fait l'une des plus grandes puces fabriquées selon ce procédé. Le Maia 100 assurera la formation et l'inférence basées sur le cloud pour les modèles OpenAI et ChatGPT, et a été spécialement conçu pour former les grands modèles de langage d'OpenAI.
Maia 100 sera entièrement refroidi par liquide, et Microsoft a même conçu des racks personnalisés avec des radiateurs de refroidissement liquide "sidekicks" pour héberger ces puces.
Le Cobalt 100, quant à lui, est un processeur 64 bits à 128 cœurs conçu pour les charges de travail générales dans le cloud de Microsoft, notamment Teams et SQL. Microsoft affirme que Cobalt 100 est 40 % plus puissant que les puces ARM Azure actuelles.
Outre Maia 100 et Cobalt 100, Microsoft a également annoncé l'avant-première publique des machines virtuelles (VM) Azure NC H100 v5 pour l'exécution de charges de travail d'IA et de calcul à haute performance (HPC). Ces machines virtuelles sont basées sur les GPU Nvidia Hopper H100 et les processeurs AMD EPYC Genoa.
Les clients peuvent choisir entre deux configurations NC H100 v5 :
- 40 vCPUs, 320 GB RAM, 1 GPU H100 avec 94 GB HBM3, et 40 GBps de bande passante réseau Azure
- 80 vCPU, 640 GB RAM, 2 GPU H100 avec 188 GB HBM3, et 80 GBps de bande passante Azure
Microsoft n'exclut pas AMD pour autant. Le géant de Redmond a également annoncé qu'il proposait désormais des machines virtuelles dotées du dernier GPU Instinct MI300X d'AMD avec une carte HBM3 de 1,5 To par machine virtuelle. Une VM ND MI300X v5 exploite huit cartes MI300X interconnectées par Infinity Fabric 3.0 avec 192 Go de mémoire HBM3 par GPU qui fonctionne à des vitesses de 5,2 To/s. Selon Microsoft, les spécifications de la VM ND MI300X v5 sont les suivantes :
- 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand par GPU avec 3,2 Tb/s par VM
- processeurs Intel Xeon Scalable de 4ème génération
- Interconnexion hôte-GPU PCIE Gen5 avec 64 Go/s de bande passante par GPU
- 16 canaux de DIMM DDR5
Le silicium personnalisé de Microsoft est actuellement orienté vers le côté serveur. Il n'est pas clair si la société apportera une variante de Cobalt 100 à sa gamme Surface ou si elle continuera à s'appuyer sur les offres de Qualcomm, et éventuellement de MediaTek - ce qui n'est pas nécessairement une mauvaise idée étant donné les chiffres impressionnants des premiers mois de l'année impressionnants affichés par le Snapdragon X Elite impressionnants affichés par le Snapdragon X Elite.
Achetez le Microsoft Surface Laptop Studio 2 avec RTX 4050 sur Amazon
