SLM (petit modèle de langage)

Un SLM (Small Language Model, ou petit modèle de langage) est un modèle de langage fondé sur la même architecture Transformer que les grands modèles (LLM), mais avec un nombre de paramètres nettement plus réduit. Là où un LLM compte des dizaines à des centaines de milliards de paramètres, un SLM se situe généralement sous la barre des 10 milliards, souvent entre 1 et 7 milliards. Il n'existe pas de seuil officiel : la frontière entre « petit » et « grand » est indicative. L'intérêt d'un SLM n'est pas la performance universelle, mais l'efficacité : il consomme beaucoup moins de mémoire et de calcul, répond plus vite, coûte moins cher et peut tourner localement — sur un ordinateur portable, un téléphone ou un appareil embarqué (edge) — ce qui renforce la confidentialité, les données ne quittant pas l'appareil. Les SLM brillent sur des tâches ciblées ou spécialisées, où un modèle bien ajusté suffit largement. Parmi les familles connues : Phi (Microsoft), Gemma (Google) et les petites déclinaisons de Llama (Meta) ou Mistral. C'est une tendance forte de 2025-2026 : faire « assez bien, plus petit, moins cher ».