MTP et IA locale : jusqu'à 72 % plus vite sur du code, environ 33 % en français (test Frandroid)
D'après Frandroid, test pratique du MTP sur une IA locale (novembre 2026), relayé par Frandroid
Image : générée par IA (Gemini)
Rédigé à partir de la source originale; chaque fait est vérifié contre le texte source.
À retenir
- Le MTP, pour Multi-Token Prediction, fait deviner par un petit module plusieurs tokens d'avance, que le modèle principal valide ou corrige d'un bloc. Il écrit donc sa réponse plus vite, sans changer de modèle.
- Frandroid a mesuré le gain sur deux ordinateurs dotés de 128 Go de mémoire, un PC Nvidia et un MacBook Pro M5 Max. Sur du code, le débit du Mac passe de 47,9 à 82,6 tokens par seconde, soit un gain de 72 %.
- Le gain dépend de la tâche. Sur du code et des calculs, il va d'environ 62 à 72 %. En rédaction française, il retombe autour de 33 à 36 %, car le module devine moins bien une phrase libre qu'une syntaxe de code.
- Limite importante : le MTP accélère l'écriture de la réponse, pas la lecture des documents. Pour interroger un long PDF, le temps d'analyse initial n'est pas réduit, avec ou sans MTP.
- Le test rappelle que la vitesse ne dit rien de la qualité. Un gros modèle local n'est pas toujours le bon choix : pour lire ou résumer de longs documents, un modèle plus léger peut être aussi pertinent et plus réactif.
Pourquoi ça compte
Certaines IA puissantes peuvent désormais tourner directement sur un ordinateur bien équipé, sans passer par le nuage. C'est intéressant pour la confidentialité, puisque les données ne quittent pas la machine. Mais la vitesse reste un frein. Le MTP montre qu'on peut l'améliorer gratuitement, par un réglage, quand le modèle le permet. À retenir surtout : un gain de vitesse annoncé est souvent un maximum, mesuré sur une tâche et une machine précises. Il ne se transpose pas tel quel à tous les usages.
Chiffre-clé
72 % : le gain de vitesse maximal mesuré par Frandroid en activant le MTP, sur de la génération de code, avec un MacBook Pro M5 Max. En rédaction française, le même réglage ne fait plus gagner qu'environ 33 %, et rien du tout pour lire un long document.
Ce que ça change au Québec
🇨🇦 Pour une entreprise au Québec, faire tourner l'IA sur ses propres ordinateurs devient une option crédible : les données restent sur place, sans envoi vers un service externe. Pour les plus gros modèles, il faut toutefois une machine coûteuse, dotée de beaucoup de mémoire. Ce test invite aussi à la prudence. Un chiffre de vitesse spectaculaire est souvent un cas idéal, pas la moyenne. Et le plus gros modèle n'est pas toujours le plus utile : pour lire et résumer de longs documents, un modèle plus léger peut suffire et répondre plus vite.