Computex 2024 | Gigabyte propose un PC AMD Ryzen Threadripper 7975X préconstruit à 35 000 $ pour former votre propre IA de 236 milliards de paramètres à la maison
L'intelligence artificielle (IA) fait la une de l'actualité ces jours-ci, les équipementiers l'apposant sur à peu près tout et n'importe quoi - presque même sur l'humble pâte thermique https://www.tomshardware.com/pc-components/thermal-paste/cooler-master-clarifies-cryofuze-5-ai-thermal-paste-announcement-was-a-translation-error.
Alors que la plupart des modèles d'IA tels que ChatGPT, DALL-E, Gemini, Llama, Copilot, etc. s'appuient fortement sur le nuage en raison de leurs exigences informatiques extrêmement lourdes, il est également possible d'exécuter l'inférence d'IA à la périphérie ou sur des systèmes clients. Cela devient particulièrement important si vous souhaitez former des modèles d'IA sur des données et des IP sensibles tout en les conservant sur site.
Il est possible d'entraîner des modèles d'IA et de les inférer à la périphérie, mais le matériel grand public pose une limite majeure à l'exécution de grands modèles et au traitement efficace d'un plus grand nombre de jetons par watt. Gigabyte veut changer cela et vous aider à "former votre propre IA sur votre bureau" avec la nouvelle gamme AI TOP.
Utilitaire AI TOP
Gigabyte explique que ses PC AI TOP sont construits sur trois structures : AI TOP Utility, AI TOP Hardware et AI TOP Tutor. L'objectif est de passer de 8/30 milliards de paramètres à 70/236 milliards tout en étant capable de faire fonctionner le système à partir d'une simple prise murale.
L'utilitaire AI TOP permet de surveiller divers paramètres du système tels que l'utilisation du CPU, du GPU, de la RAM et du SSD, tout en offrant une interface graphique sans code pour les tâches d'apprentissage de l'IA.
AI TOP Matériel
En ce qui concerne le matériel, les PC AI TOP sont livrés avec du matériel standardisé et entièrement testé, de la carte mère à l'unité d'alimentation. Les composants sont conçus pour être mis à niveau en fonction des besoins et utilisés dans un environnement domestique ou professionnel typique.
À cet égard, la société propose deux cartes mères adaptées à l'utilisation de l'IA :
- TRX50 Aero D(559 USD sur Amazon) AI TOP avec double LAN 10GbE, jusqu'à 2 To de DDR5, 4x emplacements PCIe Gen 5 x16, et 4x NVMe SSD pour une utilisation avec les CPU AMD Threadripper 7000 Series Storm Peak HEDT
- W790 AI TOP avec 2 Thunderbolt 4, jusqu'à 2 TB DDR5, 5x PCIe Gen 5 x16 slots, et 6x NVMe SSD pour une utilisation avec les CPU Intel Xeon-W2400 et W3400 Sapphire Rapids HEDT
Pour les GPU, les PC Gigabyte AI TOP peuvent utiliser les GPU suivants Nvidia GeForce RTX 4070 Ti Super AI TOP 16G, dont quatre peuvent être combinés pour un total de 64 Go de VRAM pour l'entraînement à l'IA. Vous pouvez également opter pour la nouvelle AMD Radeon Pro W7900 DS AI TOP 48G ou la W700 AI TOP 32G et les faire évoluer jusqu'à quatre cartes pour un total de 192 Go de VRAM.
Gigabyte propose également un disque SSD NVMe AI TOP 100E avec aiDAPTIVCache de Phison, conçu pour exécuter le modèle aiDAPTIV+ de Phison à l'adresse https://www.phisonenterprise.com/pascari-aidaptiv-plus-ai-data-storage-solution/. Ce SSD est conçu pour offrir jusqu'à 7 200/6 500 Mo/s en lecture/écriture séquentielle et 150x TBW.
Les PC AI TOP sont équipés d'une alimentation UD1600PM PG5 80+ Platinum qui fournit suffisamment de puissance pour faire fonctionner quatre GPU et qui est conçue pour durer deux fois plus longtemps que les alimentations conventionnelles.
Ces PC pré-construits AI TOP commencent à 6 499 dollars pour 8 milliards de paramètres, 11 999 dollars pour 13 milliards, 16 499 dollars pour 30 milliards, et vont jusqu'à 35 999 dollars pour 70 milliards de paramètres avec une taille de modèle maximale allant jusqu'à 236 milliards.
Les deux premières options proposent des CPU AMD Ryzen Threadripper 7960X(1 399 dollars sur Amazon) et deux GPU RTX 4070 Ti Super. La configuration 30B passe à la Threadripper 7975X(3 899 dollars sur Amazon) et 4x RTX 4070 Ti Supers. Enfin, la configuration 70B utilise le Threadripper 7975X et 4 GPU Radeon Pro W7900.
AI TOP Tutor
Enfin, nous avons le tuteur AI TOP qui est formé à l'aide de l'utilitaire AI TOP pour fournir des conseils, des consultations et une assistance en matière d'IA sur le terrain pour tout ce qui a trait à AI TOP.
Source(s)
Communiqué de presse de Gigabyte
![Gigabyte Metal Gear Plus ITX propose des processeurs de bureau Ryzen 8000G dans un format mini PC (Source de l'image : JD.com [édité])](fileadmin/_processed_/2/4/csm_Gigabyte-Metal-Gear-ITX-Mini-PC_e271677d1b.jpg)
