Trois puces et Google Tensor est sous assistance respiratoire

Les smartphones Pixel de Google ont toujours été à la pointe de l'utilisation de l'apprentissage automatique et de l'IA pour offrir des expériences uniques, le tout en tirant parti de l'expertise logicielle de Google créant des algorithmes intelligents. Les premiers smartphones Pixel a été le premier smartphone Android à intégrer Google Assistant et, plus généralement, le premier smartphone à proposer des fonctions de photographie computationnelle alimentées par l'IA, telles que Lens Blur et Smartburst. Chaque téléphone successif s'est appuyé sur cet héritage et jusqu'au Pixel 5, Google s'était associé à Qualcomm pour utiliser ses puces Snapdragon afin d'alimenter ces expériences d'IA et de ML.

Cela a changé avec le lancement du Pixel 6 et Pixel 6 Pro en 2021, qui était alimenté par le Google Tensor, sa première puce personnalisée. À l'époque, Google a déclaré que son objectif était de créer sa propre puce afin de pouvoir "...offrir des capacités totalement nouvelles aux utilisateurs de Pixel en suivant les dernières avancées en matière de ML." L'implication étant que si elle s'en était tenue à Qualcomm, elle n'aurait tout simplement pas été en mesure d'atteindre ses objectifs. Plus précisément :

La co-conception de Google Tensor avec Google Research nous a permis de comprendre où les modèles de ML se dirigent, et non pas où ils se trouvent aujourd'hui. Cela nous a permis de construire une plateforme d'IA/ML capable de suivre le rythme de notre travail chez Google.

Il a également souligné comment le Tensor a permis à de nouvelles fonctions d'IA comme Live Translate de "travailler sur des médias tels que les vidéos en utilisant des modèles de parole et de traduction sur l'appareil" En ce qui concerne les capacités originales d'apprentissage automatique du premier Tensor, il a tenu ses promesses. Si la série de puces Google Tensor a été créée spécifiquement pour prendre en charge les fonctions d'IA de Google - à la fois en suivant le rythme des modèles d'IA de Google et en les prenant en charge sur l'appareil comme prévu - quelque chose n'a pas fonctionné depuis.

Le développement de puces personnalisées à la pointe du marché est une entreprise coûteuse. Applela décision de l'entreprise d'investir dans des puces Arm entièrement personnalisées remonte à l'époque de Steve Jobs, lorsqu'elle a acquis deux entreprises de conception de puces spécialisées dans le silicium à faible consommation d'énergie et à haute performance. Son premier prototype de Mac basé sur la technologie Arm remonte également à l'ère Jobs, puisque des rumeurs ont fait état de son existence pour la première fois en 2011l'année précédant le décès de Steve Jobs des suites d'un cancer du pancréas. La même année, l'équipe chargée des puces de Apple s'était déjà étoffée pour atteindre au moins 1 000 personnes. L'entreprise a également investi massivement dans TSMC pour s'assurer un accès prioritaire à ses dernières technologies de fabrication. En bref, Apple a investi plusieurs milliards de dollars dans ses efforts de fabrication de silicium personnalisé afin d'obtenir un accord inégalé entre le matériel et les logiciels.

Google a également voulu imiter l'approche de Appleen adaptant le silicium à ses capacités logicielles basées sur l'IA. Toutefois, à ce jour, ses efforts n'ont pas été aussi ambitieux que ceux de Apple. Les trois premières puces Tensor sont considérées comme des modèles semi-personnalisés, car elles ont été conçues et développées en collaboration avec Samsung LSI, l'équipe à l'origine des puces Exynos de Samsung. Elles sont également fabriquées par Samsung Foundry. La provenance du Tensor original et sa relation étroite avec les puces Exynos de Samsung ont été identifiées par Andrei Frumansu qui écrivait alors pour Anandtech. (M. Frumansu, qui a depuis fait de plus grandes et meilleures choses, est aujourd'hui ingénieur principal chez Qualcomm, où il travaille sur la puce Snapdragon X Elite Puce Snapdragon X Elite -- il en connaît donc un rayon sur les puces).

Ainsi, alors que Apple développe depuis de nombreuses années des processeurs basés sur Arm entièrement personnalisés et, plus récemment, des cœurs de GPU entièrement personnalisés, il n'en reste pas moins que la plupart des processeurs sont des processeurs de pointe, des cœurs de GPU entièrement personnalisésles puces Tensor de Google, conçues et développées en collaboration avec Samsung, utilisent des cœurs de CPU Arm Cortex et des cœurs de GPU Arm Mali. Elles comportent toutefois des blocs de propriété intellectuelle Google entièrement personnalisés, notamment l'unité de traitement Tensor (TPU), l'enclave sécurisée Titan M et d'autres blocs de propriété intellectuelle personnalisés, comme l'a indiqué Frumansu. Ces blocs s'appuient sur la propriété intellectuelle personnalisée que Google a développée lorsqu'il utilisait encore des puces Snapdragon de Qualcomm, notamment le Pixel Visual Core que l'on a vu pour la première fois dans le Pixel 2 et le premier Titan M qui a fait ses débuts dans le Pixel 3. C'est l'approche que Google a retenue pour toutes ses puces Tensor jusqu'à présent - le Tensor original, Tensor G2 et le dernier Tensor G3.

Selon les dernières rumeurs, Google aurait conçu une puce Tensor tensor entièrement personnalisé. Celui-ci sera fabriqué sur l'un des nœuds de 3 nm de TSMC au lieu des nœuds de Samsung - même si Samsung semble regagner quelques clients Samsung semble regagner une partie des clients qu'elle a perdus qu'il a perdus ces deux ou trois dernières années au profit de TSMC, il semble que Google ait perdu patience avec le géant coréen. Malheureusement pour les fans de Pixel, cette puce ne devrait pas arriver avant 2025, ce qui signifie que nous pouvons nous attendre à au moins une autre puce Tensor dans le cadre de son partenariat actuel avec Samsung. Les premiers signes ne sont toutefois pas prometteurs. Comme le Tensor G2, qui était une amélioration modeste par rapport au Tensor OG, le Tensor G4 devrait être une amélioration modeste par rapport au Tensor G3. Cela pourrait être un problème pour Google, étant donné que le Tensor G3 n'est pas en mesure de gérer les dernières technologies d'intelligence artificielle de Google n'est pas en mesure de gérer les derniers algorithmes d'IA de Google sur l'appareil comme prévu à l'origine.

Même si le Tensor G3 a bénéficié d'améliorations architecturales significativesses performances dans les benchmarks le placent entre le Qualcomm Snapdragon 7+ Gen 2 de milieu de gamme et le Snapdragon 8+ Gen 1. Bien que les performances soient suffisantes pour permettre au Pixel 8 Pro de faire fonctionner l'interface utilisateur du système en douceur et d'autres tâches, il est toujours enclin à chauffer en effectuant des tâches simples comme le téléchargement d'applications et la prise de vidéos dans l'expérience de ce rédacteur avec lui. Lorsque les téléphones chauffent comme cela en utilisation générale, cela reflète le type d'inefficacité qui est une caractéristique connue des puces caractéristique connue des puces produites sur les nœuds 5 nm et 4 nm de Samsung - y compris le nœud 4LPP utilisé pour fabriquer le Tensor G3. Google a tenté de masquer ces déficiences thermiques en chargeant le Pixel 8 Pro avec beaucoup de graphite. La même inefficacité est également apparente dans de nombreux tests de batterie standardisés trouvés sur , qui montrent généralement que le Pixel 8 Pro loin derrière l'iPhone 15 Pro Max iPhone 15 Pro Max et le Galaxy S23 Ultrases deux principaux concurrents.

Le plus gros problème, peut-être, avec le Tensor G3 est (comme nous l'avons souligné récemment), qu'un grand nombre des dernières fonctionnalités d'IA que Google a annoncées parallèlement au lancement du Pixel 8 Pro ne peuvent pas être gérées sur l'appareil. Et ce, malgré le fait que Google ait positionné la puce comme étant capable de le faire sur son blog officiel. Bien que Google ait clairement indiqué lors de son lancement que la nouvelle fonctionnalité Video Boost est déchargée sur le cloud pour le traitement, il n'a pas précisé exactement quelles fonctionnalités nécessitaient une connexion internet. Le seul indice indiquant que le traitement de l'IA est déchargé dans le nuage pour qu'une nouvelle fonctionnalité d'IA fonctionne est lorsque Google indique spécifiquement en petits caractères qu'une fonctionnalité "nécessite l'application Google Photos". Les nouvelles fonctionnalités d'IA que le Tensor G3 n'est pas assez puissant pour traiter sur l'appareil comprennent Google Assistant avec Bard, Night Sight Video, Gboard proof-read, Magic Editor, AI Wallpaper, Audio Magic Eraser et la mise à jour de l'IA générative à venir pour Magic Eraser.

Il est clair qu'après seulement trois puces, et avec tant de nouvelles fonctionnalités d'IA transférées à Google Cloud, le projet Google Tensor est sous assistance respiratoire. Vous vous souviendrez que Google a déclaré avoir abandonné les puces Snapdragon qu'elle utilisait jusqu'alors :

La co-conception de Google Tensor avec Google Research nous a permis de comprendre où les modèles de ML se dirigent, et non pas où ils se trouvent aujourd'hui. Cela nous a permis de construire une plateforme d'IA/ML capable de suivre le rythme de notre travail chez Google.

Le Tensor G3 est tout simplement loin de répondre à la raison d'être initiale de Google pour la création de ses propres puces. Selon Google, les avantages d'une puce capable de traiter des tâches d'IA sur l'appareil sont les suivants : faible latence (le traitement étant effectué localement), respect de la vie privée (les données des utilisateurs n'étant pas transférées vers des serveurs distants) et amélioration de l'autonomie de la batterie (les connexions cellulaires ou Wi-Fi consommant de l'énergie). Au contraire, en déchargeant les tâches d'IA sur le cloud, la latence sur le Pixel 8 Pro augmente, la confidentialité diminue et l'autonomie de la batterie prend un coup chaque fois qu'un utilisateur utilise l'une des nouvelles fonctionnalités d'IA qui nécessite d'utiliser une connexion cellulaire ou Wi-Fi.

En lançant le puissant Snapdragon 8 Gen 3 quelques semaines seulement après le Tensor G3, Qualcomm n'a pas manqué l'occasion de faire savoir à Google qu'il n'aurait jamais dû l'abandonner. Lors de son événement de lancement, Qualcomm a mis l'accent sur les capacités de traitement de l'IA générative sur l'appareil du Snapdragon 8 Gen 3, le qualifiant de "Titan de l'intelligence sur l'appareil". Qualcomm n'a pas exagéré : le Snapdragon 8 Gen 3 est le premier SoC mobile capable de prendre en charge la diffusion stable sur l'appareil et les grands modèles d'IA comportant jusqu'à 10 milliards de paramètres.

Le Snapdragon 8 Gen 3 a également démontré que l'affirmation de Google selon laquelle les "mesures de performance traditionnelles" n'étaient pas importantes était une farce. Si le Snapdragon 8 Gen 3 écrase les capacités de traitement de l'IA du Tensor G3 sur l'appareil, c'est parce qu'il l'écrase également dans les benchmarks l'écrase dans les benchmarks. Qualcomm appelle la combinaison du CPU, du GPU et du NPU du Snapdragon 8 Gen 3 son "moteur d'intelligence artificielle". En effet, le CPU, le GPU et le NPU d'un SoC de smartphone sont largement utilisés pour traiter les modèles d'apprentissage automatique qui alimentent les fonctions d'IA sur les smartphones. Les benchmarks montrent clairement que le Tensor G3 dispose d'un CPU et d'un GPU comparativement faibles, tandis que son TPU personnalisé n'est pas suffisant pour compenser cette faiblesse.

La puissance brute est importante, et elle l'est plus que jamais grâce à l'essor de l'IA générative au cours des 12 à 18 derniers mois. À ce stade, le seul avantage du Tensor G3 pour les fans de Pixel est que Google a promis 7 ans de mises à jour du système d'exploitation pour la série Pixel 8, ce qui est nettement plus que ce qui aurait été possible avec Qualcomm. Cependant, à ce stade, il ne s'agit que d'une promesse, et il doit y avoir des points d'interrogation sur la capacité du Tensor G3 à prendre réellement en charge Android 21, qui est ostensiblement la dernière des mises à jour du système d'exploitation que les Pixel 8 Pro et Pixel 8 recevront.

Les choses ne semblent pas s'améliorer beaucoup pour le Pixel 9 Pro lorsqu'il sera lancé en 2024, car les premières indications sont que le Tensor G4 continuera avec l'architecture CPU actuelle du Tensor G3, alors qu'il pourrait recevoir une mise à niveau du TPU et du GPU. Cette approche serait similaire à celle du Tensor G2, qui n'était qu'une modeste mise à niveau par rapport au Tensor OG. Ce n'est qu'en 2025 que nous verrons enfin Google livrer un Tensor capable de tenir la promesse initiale de Google, qui soit entièrement personnalisémais surtout fabriqué sur le nœud 3NE de TSMC. Le Tensor G5 devrait ainsi être beaucoup plus compétitif par rapport aux autres puces phares du marché.

À l'heure actuelle, cependant, le Pixel 8 Pro tient tout juste le coup - peut-il survivre à une mise à jour de type Tensor G2 alors qu'une toute nouvelle architecture et un processus de fabrication bien meilleur sont nécessaires dès que possible ? Une solution évidente à court terme consisterait à intégrer un Snapdragon 8 Gen 3 dans le Pixel 9 Pro l'année prochaine. Cependant, cela représenterait un défi marketing étant donné l'effort massif que Google a mis dans la marque Tensor, avant de prendre en compte les coûts irrécupérables dépensés dans le développement du Tensor G4 et les coûts de réingénierie pour changer de puce. L'obstacle est tel qu'il semblerait que Google soit bloqué dans sa trajectoire actuelle. Si Google procède comme prévu, il pourrait bien tuer tout ce qui reste de cachet dans les marques Tensor et Pixel.

Même à ce stade précoce, il semble que les ventes de la série Pixel 8 soient en demi-teinte. Alors que Google procède traditionnellement à des remises sur ses Pixel à l'occasion des ventes du Black Friday, d'énormes réductions de plus de 400 dollars australiens étaient déjà disponibles sur le Pixel 8 Pro quatre semaines seulement après son lancement et une semaine et demie avant le début officiel des ventes du Black Friday. Cette situation est extrêmement inhabituelle. La série Pixel continue d'offrir d'excellents logiciels et d'excellentes performances en matière d'appareil photo. Google a été le pionnier des fonctions d'IA sur les smartphones, et ses fonctions d'IA restent les meilleures de leur catégorie. Mais ses puces Tensor sont son talon d'Achille.