Depuis son lancement le 18 juillet 2023, Llama 2 se présente comme un grand modèle de langage concurrent de ChatGPT d’OpenAI et de Google Bard. Cet outil d’intelligence artificielle open source et gratuit sera prochainement disponible sur les appareils connectés alimentés par les semi-conducteurs de Qualcomm, grâce à la signature d’un partenariat avec Meta.
Qualcomm précurseur dans l’exécution d’IA génératives sur smartphones
S’ils disposent d’assez de puissance de calcul, les PC, mais aussi les smartphones ont la possibilité de faire tourner des IA génératives. C’est ce qu’a réussi à prouver Qualcomm à l’occasion de l’édition 2023 de la Conférence on Computer Vision and Pattern Recognition (CVPR). L’entreprise a présenté un modèle de vision du langage où des images ont été générées par l’IA depuis un appareil mobile.
Inscrivez-vous à la newsletter
En vous inscrivant vous acceptez notre politique de protection des données personnelles.
Intéressée par la performance réalisée par Qualcomm, Meta s’est rapprochée de l’entreprise pour rendre accessible Llama 2 sur n’importe quel appareil connecté. Comme l’indique le spécialiste des technologies mobiles, l’objectif est « exécuter des modèles d’IA génératifs comme Llama 2 sur des appareils tels que des smartphones, des PC, des casques VR/AR et des véhicules permet aux développeurs d’économiser sur les coûts du cloud et de fournir aux utilisateurs des expériences privées, plus fiables et personnalisées ».
Pour y parvenir, les chercheurs de Qualcomm s’appuient sur deux leviers. Le premier consiste à optimiser les modèles d’intelligence artificielle. Ils cherchent à réduire leur taille ainsi que leur complexité, tout en conservant leurs fonctionnalités et leurs performances. Le second repose sur Qualcomm AI Stack, une suite d’outil permettant d’optimiser des IA pour qu’elles puissent fonctionner sur des appareils utilisant ses puces Snapdragon 8 de deuxième génération.
Llama 2 de Meta exécutable sur les appareils connectés dès l’année prochaine
Qualcomm a prévu de mettre à disposition l’exécution d’IA basées sur Llama 2 pour les appareils alimentées par ses puces Snapdragon à partir de 2024. Toutefois, les développeurs peuvent d’ores et déjà optimiser leurs solutions d’IA sur leurs smartphones, ordinateurs portables, casques de réalité mixte et les appareils IoT grâce à Qualcomm AI Stack. À noter que cela ne fonctionne que pour les appareils alimentés par les technologies de Qualcomm.
Durga Malladi, Senior Vice President and General Manager, Technology Planning & Edge Solutions chez Qualcomm, a applaudi « l’approche de Meta en matière d’IA ouverte et responsable ». Il s’est également engagé « à stimuler l’innovation et à réduire les obstacles à l’entrée pour les développeurs de toute taille en apportant l’IA générative sur les appareils mobiles ».
Outre cette collaboration, Meta et Qualcomm travaillent depuis plusieurs mois sur de nouvelles puces de réalités virtuelles personnalisées, basées sur Snapdragon XR.
