SlimLM, soutenu par Adobe, offre des capacités d'IA mobile sans nuage

Le traitement hors ligne piloté par l'IA sera bientôt disponible (Source de l'image : générée à partir de DALL-E 3)

Grâce au petit modèle de langage (SLM) SlimLM, développé par une équipe de chercheurs d'Adobe, le traitement de documents par l'IA peut être effectué hors ligne sur les smartphones. Les futures applications basées sur ce morceau de code offriront une bien meilleure protection de la vie privée que les applications d'IA basées sur l'informatique dématérialisée qui existent aujourd'hui.

Codrut Nistor (traduit par Ninh Duy), Published 11/22/2024 🇺🇸 🇨🇳 ...

AI Smartphone Software

Grâce à un nouveau petit modèle de langage (SLM) développé par une équipe de chercheurs en IA d'Adobe Inc. et des collègues de l'université d'Auburn et de Georgia Tech, les nouvelles applications d'IA pour smartphones pourront traiter des documents localement, sans accès au cloud. Ce SLM s'appelle SlimLM, et tous les détails le concernant ont été publiés sur arXiv.

"Grâce à des expériences approfondies sur un Samsung Galaxy S24, nous identifions les compromis optimaux entre la taille du modèle (allant de 125M à 7B paramètres), la longueur du contexte et le temps d'inférence pour un traitement efficace sur l'appareil. SlimLM est pré-entraîné sur SlimPajama-627B et affiné sur DocAssist, notre ensemble de données construit pour les tâches de résumé, de réponse aux questions et de suggestion. Notre plus petit modèle démontre des performances efficaces sur S24, tandis que les variantes plus grandes offrent des capacités améliorées dans le cadre des contraintes mobiles,"

a révélé l'équipe de recherche.

SlimLM n'est pas encore disponible pour le grand public, mais cela ne saurait tarder. Grâce à ce morceau de code, un smartphone peut utiliser localement la puissance de l'IA pour traiter des documents sans même se connecter. Si les solutions d'IA basées sur l'informatique en nuage utilisent souvent beaucoup moins de puissance de calcul locale que les applications exécutées localement, la caractéristique la plus importante qu'elles offrent est la protection de la vie privée. Jusqu'à présent, les grands noms du secteur, tels que Google, Apple et Meta, ont déjà développé de telles applications. Malheureusement, leur statut reste plutôt expérimental, et aucune d'entre elles n'a trouvé son chemin vers le grand public. Si les projets des chercheurs susmentionnés se concrétisent, SlimLM pourrait devenir la première solution de ce type.

Les personnes intéressées par SlimLM et d'autres solutions similaires devraient se procurer l'ouvrage de Jesse Sprinter Demystifying AI : Your Guide to Mastering Small Language Models, qui est actuellement disponible au prix de 7,11 dollars au format Kindle, tandis que la version brochée est vendue au prix de 18,99 dollars.