Llama 3, la nouvelle version du grand modèle de langage (LLM) de Meta, arrive. Le géant des réseaux sociaux a annoncé, lors d’un événement à Londres, qu’une première version devrait être publiée le mois prochain. Utilisé pour des IA génératives, il devra faire mieux que ses prédécesseurs pour convaincre le public. Llama 2 a été critiqué, car trop limité.

Non pas une, non pas deux, mais trois versions attendues

Pour cette troisième génération, Meta innove. Il ne s’agira pas d’un seul modèle, mais d’une suite. « Dans un laps de temps très court, nous espérons commencer à déployer notre nouvelle suite de modèles de fondation de nouvelle génération, Llama 3 », a déclaré Nick Clegg, président des affaires mondiales de Meta, avant d’ajouter qu’il y aura « un certain nombre de modèles différents avec des capacités différentes et des polyvalences différentes ».

Selon The Information, deux versions plus petites devraient sortir avant le modèle phare. Llama 3 doit permettre de mieux concurrencer OpenAI, leader du secteur avec ChatGPT, mais aussi Microsoft, principal partenaire de la start-up, et Google, qui a déjà dévoilé plusieurs modèles. Sortir plusieurs moutures allégées va dans ce sens. En février, Google a dévoilé une offre payante pour son modèle Gemini, ainsi que Gemma 2B et Gemma 7B, deux modèles ouverts, plus légers et moins puissants.

Tout l’intérêt de telles versions est de les rendre accessibles et de les faire fonctionner sur des ordinateurs portables. Ils se veulent plus rapides et moins chers à exécuter que des modèles de plus grande taille, attirant plus d’utilisateurs. Ils sont par conséquent plus rentables à créer.

Dans la lignée de Llama 2, Meta devrait aussi poursuivre dans la voie de l’open source. Un chemin drastiquement différent de celui de Microsoft et OpenAI. Il s’agit d’un moyen pour la firme de susciter la confiance et de s’attirer les faveurs des développeurs.

Si Meta n’a pas dévoilé le nombre de paramètres de son futur LLM, il pourrait en contenir près de 140 milliards, quand son prédécesseur en a compté 70 milliards. Cette nouvelle version devrait logiquement se révéler bien plus puissante. Elle devrait également pouvoir répondre à un plus large éventail de questions, sur des sujets plus controversés. L’objectif est toujours le même, faire venir plus d’utilisateurs. En plus de Llama 3, 2024 pourrait être l’année de lancement de Emu, son outil de génération d’images.

Le conditionnel est de mise, Meta voulant se montrer très prudent : « la latence est très importante, tout comme la sécurité et la facilité d’utilisation », a expliqué Chris Cox, directeur des produits de Meta.