La Radeon RX 7900 XTX surpasse la RTX 4090 et la RTX 4080 Super dans le benchmark DeepSeek AI

LLM chinois DeepSeek a fait des ravages sur le marché technologique américain, faisant disparaître des milliers de milliards de dollars du marché boursier. Bien qu'il ait été formé sur du matériel Nvidia un peu plus ancien, il fonctionne étonnamment bien sur l'une des offres grand public d'AMD : la Radeon RX 7900 XTX. David McAfee, directeur général de la division Radeon d'AMD, a publié quelques résultats de référence sur pour la X.

Selon le nombre de paramètres et le modèle utilisés, la Radeon RX 7900 XTX est plus rapide de 13 % (7 milliards de paramètres) à 2 % (14 milliards de paramètres). Après cela, le produit phare de RDNA 3 commence à faiblir et se retrouve derrière la RTX 4090 avec 32 milliards de paramètres. AMD l'a même comparée à la GeForce RTX 4080 Superoù la 7900 XTX a une avance de 34% sur les performances.

AMD a également fourni à des instructions détaillées sur la façon d'exécuter DeepSeek localement sur votre machine. Mais la Radeon RX 7900 XTX mentionnée ci-dessus plafonne à 32 milliards de paramètres, tandis que la Strix Halo Ryzen AI Max 395 Plus avec 128 Go de RAM peut prendre en charge jusqu'à 72 milliards de paramètres. Ou, si vous avez environ 6 000 dollars à dépenser, Matthew Carrigan a trouvé un moyen d'exécuter l'ensemble du modèle localement sur une machine équipée de deux CPU AMD Epyc et de 768 Go de RAM.