Nvidia et Apple: les frères ennemis mettent de côté leurs rancœurs pour améliorer les performances de l'IA

Il est bien connu que Apple et Nvidia ne s'entendent pas très bien. Il fut un temps où la gamme Mac de Apple utilisait des cartes graphiques Nvidia, mais les choses se sont gâtées lorsqu'en 2008, des problèmes généralisés sont apparus sur les MacBooks équipés de la carte graphique Nvidia GeForce 8400M et 8600M dGPU de Nvidia ont commencé à faire surface ces problèmes étaient dus à des défauts d'emballage et entraînaient une surchauffe, des dysfonctionnements graphiques et, dans certains cas extrêmes, une panne totale du GPU. Bien que les MacBooks aient continué à être équipés de GPU Nvidia, leur relation était indubitablement en baisse, et dans les années qui ont suivi, Apple est passé à AMD et n'a jamais regardé en arrière.

En conséquence, et sans vouloir offenser les fans de Team Red, les Macs souffraient de performances graphiques médiocres par rapport aux ordinateurs portables Windows équipés de GTX et de RTX. C'était jusqu'à l'arrivée des Macs équipés de SiliconApple , bien sûr. Bien que les amateurs de Mac aient espéré que Nvidia et Apple enterrent la hache de guerre, cela ne s'est jamais vraiment produit - jusqu'à aujourd'hui. Enfin, en quelque sorte. Apple a récemment annoncé une collaboration avec Nvidia visant à accélérer l'inférence de grands modèles de langage, marquant ainsi un armistice bienvenu entre les deux mastodontes de plusieurs billions de dollars.

Au cœur de cette collaboration inattendue se trouve le ReCurrent Drafter (ReDrafter) de Apple, qui est essentiellement une méthode de décodage spéculatif assez innovante conçue pour améliorer la génération de jetons LLM lancée au début de l'année. Nvidia a apparemment travaillé avec Apple pour incorporer d'une manière ou d'une autre ReDrafter dans son cadre TensorRT-LLM . De plus, le géant de l'IA a également mis à jour son framework avec de nouveaux opérateurs optimisés, permettant une adoption transparente. Les résultats, même pour un profane comme moi, semblent prometteurs : les LLM utilisant des GPU Nvidia avec ReDrafter atteignent une vitesse de génération de jetons multipliée par 2,7, réduisant ainsi la latence et la consommation d'énergie.

Bien entendu, il reste à savoir si cette collaboration indique que les deux plus grandes entreprises du monde ont d'autres projets en réserve, ou si elle marque plutôt une trêve ponctuelle. Quoi qu'il en soit, , toute alliance en matière de R&D sera probablement une bonne nouvelle pour les consommateurs. Après tout, qui ne veut pas de logiciels plus rapides ?