MWC 2024 | L'IA partout : Qualcomm présente des démonstrations impressionnantes sur PC, téléphones et IoT avec le Snapdragon X Elite
Depuis qu'OpenAI a présenté ChatGPT au public mondial ébahi en 2022, le thème de l'IA générative n'a pas cessé de faire la une des journaux, que ce soit dans les lettres de la bourse ou dans le secteur de la technologie. L'abréviation d'intelligence artificielle était également omniprésente au Mobile World Congress 2022. Cependant, il est important de distinguer où l'intelligence artificielle a sa place. C'est ce que vous pouvez constater dans le nouveau Galaxy S24 "AI phone" de Samsung, avec de nombreuses nouvelles fonctionnalités Galaxy Aisi certaines d'entre elles s'exécutent directement sur l'appareil et fonctionnent également hors ligne, d'autres nécessitent un accès au nuage.
"On-device" est donc un facteur important, par exemple pour des raisons de protection des données, mais bien sûr aussi en raison de la capacité hors ligne et de la performance, indépendamment de la disponibilité du fournisseur de cloud respectif. Au MWC 2024 de Barcelone, qui commence aujourd'hui, Qualcomm a démontré les possibilités techniques actuelles des algorithmes d'IA fonctionnant directement sur l'appareil ou ce qui sera bientôt possible, au plus tard à l'été, lorsque le premier Snapdragon X Elite-arriveront sur le marché.
Snapdragon X Elite NPU contre Intel Core Ultra 7 155H
Dans la vidéo de démonstration ci-dessus, une image est générée en utilisant Stable Diffusion 1.5 dans l'éditeur open source Gimp avec l'aide de l'IA générative : à gauche, le NPU Hexagon 45 TOPs dans l'appareil de démonstration Snapdragon X Elite, et à droite, l'ordinateur portable Intel équipé de Core Ultra 7 155H. Le dispositif de test rouge de Qualcomm, déjà déjà connu depuis le sommet Qualcomm d'octobre 2023il a terminé la génération d'images en 7,25 secondes, soit trois fois plus vite que l'ordinateur Intel situé à côté, qui a mis 22,26 secondes.
Le deuxième test est presque encore plus impressionnant : Alors que l'ordinateur portable Snapdragon X Elite crache une image toutes les secondes, la génération d'images d'Intel prend en moyenne 12 secondes, bien que Meteor Lake dispose également d'un NPU intégré. Bien sûr, il convient de noter que nous ne connaissons pas les paramètres spécifiques de ce test, mais au moins dans le monde de Qualcomm, les ordinateurs portables Snapdragon X Elite attendus en 2024 ont des avantages tangibles, en particulier avec l'IA sur l'appareil.
Ajustement individuel de l'image à l'aide de LoRA sur un téléphone Android
La démo ci-dessus est également passionnante, car elle montre pour la première fois comment l'IA générative peut personnaliser le résultat en fonction des besoins de l'utilisateur grâce à l'"adaptation de rang inférieur" (Low Rank Adaptation) ou LoRA en abrégé. Qu'il s'agisse de chats avec des cristaux ou des nouilles au lieu de la fourrure classique, l'imagination n'a pratiquement aucune limite. Tout cela fonctionne directement sur un téléphone Android équipé d'une puce Snapdragon.
Premier modèle multimodal à plus de 7 milliards de paramètres localement sur un smartphone ...
Une autre première est le modèle LMM (Large Multimodal Model) avec plus de 7 milliards de paramètres présenté par l'équipe de recherche Qualcomm AI, qui fonctionne localement sur un téléphone Android. La vidéo ci-dessus montre comment l'intelligence artificielle accepte non seulement du texte, mais aussi de la parole et des images en entrée et les utilise pour tenir une conversation avec l'utilisateur. L'ensemble est appelé LLAVA (Large Language and Vision Assistant) par Qualcomm.
... et bien sûr aussi sur un PC Snapdragon X Elite
Dans la dernière démo ci-dessus, une LMM de plus de 7 milliards de paramètres est également exécutée sur un PC Windows-on-ARM, naturellement basé sur le Snapdragon X Elite, qui accepte également des fichiers audio en entrée et peut les analyser - dans ce cas, de la musique, par exemple. Qualcomm appelle cela l'Audio Reasoning. Outre ces démonstrations, Qualcomm a également annoncé le AI Hub au MWC 2024, que les développeurs d'applications peuvent utiliser pour rendre leurs applications prêtes pour l'IA en un rien de temps. Qualcomm propose également du nouveau matériel dans le domaine de la communication. Découvrez le modem Snapdragon X80 5G et le FastConnect 7900, la première puce à combiner Wi-Fi 7, Bluetooth 5.4 et Ultrawideband, ici.
L'IA dans les appareils IoT et les smartphones actuels
Certains appareils IoT grand public basés sur Snapdragon utilisent déjà des fonctions d'IA, comme le controversé AI Pin de Humane. Les smartphones phares lancés ce week-end - Xiaomi 14, Xiaomi 14 Ultraet Honor Magic6 Pro - fournissent chacun des exemples différents de la manière dont l'intelligence artificielle sur l'appareil peut être utilisée pour définir des priorités différentes. Dans le cas de Xiaomi, la principale préoccupation est l'appareil photo, tandis que Honor se concentre davantage sur le fonctionnement de l'utilisateur que sur les tâches.
Source(s)
Qualcomm
