PrismML : un modèle de 27 milliards de paramètres dans 5,9 Go
D'après PrismML – Introducing Bonsai 2 27B et PrismML – communiqué du 17 septembre 2026, relayé par TechCrunch AI
Image : générée (Gemini)
Rédigé à partir de la source originale; chaque fait est vérifié contre le texte source.
Annonce commerciale : ce document émane de l'entreprise concernée.
À retenir
- La compression ne porte pas sur le nombre de paramètres, mais sur la façon de stocker chaque poids : au lieu de 16 bits chacun, PrismML n'en garde que trois valeurs possibles, −1, 0 ou +1. Chaque poids revient en moyenne à 1,76 bit, soit environ neuf fois moins de place.
- Les débits annoncés portent sur du matériel haut de gamme, pas sur un appareil ordinaire : jusqu'à 143 jetons par seconde sur une carte NVIDIA GeForce RTX 5090, et 46,8 sur une puce M5 Max d'Apple.
- La génération précédente conservait 95 % de la performance de l'original ; celle-ci monte à 98,2 %, un score agrégé de 83,9 contre 85,4 pour le modèle en pleine précision.
- Les poids sont publiés sous licence Apache 2.0. Le modèle accepte le texte et l'image, avec une fenêtre de contexte de 262 000 jetons.
- TechCrunch situe le premier modèle Bonsai en mars ; l'annonce de PrismML le situe en juillet. C'est la date de l'entreprise qui fait foi ici.
Pourquoi ça compte
Le débat sur les petits modèles achoppe d'habitude sur ce qu'on perd en comprimant. Une fiche publiée ici le 28 juin 2026 sur VibeThinker-3B posait la limite : le raisonnement se comprime bien, la connaissance factuelle beaucoup moins. PrismML ne répond pas à cette objection, il déplace le terrain : plutôt que d'entraîner un petit modèle, il réduit la place qu'occupe un gros. Si le chiffre de 98,2 % tient hors des bancs d'essai, un modèle de cette taille devient utilisable sur une machine personnelle, sans envoyer les données à un service infonuagique.
Chiffre-clé
5,9 Go : l'empreinte mémoire de Ternary Bonsai 2 27B, annoncée par PrismML le 17 septembre 2026, contre plus de neuf fois cette taille pour le même modèle en pleine précision.
Citation
« You are going to have intelligence at your fingertips, and it’s going to be free because it’s going to run on the device you already bought. It’s also going to be private, because you’re not going to send it to the cloud. » Ion Stoica, conseiller de PrismML et professeur à Berkeley, cité par TechCrunch
Action concrète
Avant de tester ce modèle, vérifier la mémoire vive de la machine : 5,9 Go de poids supposent une marge au-delà, et l'annonce mesure ses débits sur une RTX 5090 et une puce M5 Max, pas sur un portable ordinaire.
Repères datés
- 28 juin 2026 - VibeThinker-3B montrait que le raisonnement se comprime bien, mais pas la connaissance factuelle.
- 28 août 2026 - Qwen3.8 27B, le modèle dont part Bonsai 2, mesuré sur un Mac Studio : deux fois plus lent, presque aussi rapide en pratique.
Fondée sur la source originale
