Gemma 4 : Google améliore son modèle IA open source
Google a discrètement mis à jour son modèle d'IA open source Gemma 4, améliorant les performances sur GPU Nvidia Hopper de 25 à 70%. L'update corrige aussi les bugs d'appel d'outils et réduit les réponses tronquées. La version 31B montre une amélioration de 10.1% dans les télécoms.
« Turning on Flash Attention 4 boosts the speed at which the model processes incoming prompts by 25 to 70 percent, according to Google. » — The Decoder
Que faut-il retenir ?
- L'activation de Flash Attention 4 augmente la vitesse de traitement de 25 à 70%
- Le temps jusqu'au premier token est réduit jusqu'à 31%
- Gemma 4 31B améliore ses performances de 10.1% dans les télécoms
- Le paramètre max_soft_tokens peut être augmenté à 1 120 pour un meilleur OCR
Pourquoi cette nouvelle compte-t-elle ?
Cette mise à jour impacte directement les développeurs utilisant Gemma 4, avec des gains de performance significatifs et des corrections importantes. L'amélioration du traitement d'images et des appels d'outils ouvre de nouvelles possibilités d'application, tandis que la controverse sur la nomenclature soulève des questions sur les bonnes pratiques en open source.
25 à 70% d'augmentation de vitesse de traitement
Public concerné : développeurs
Quelles sont les principales améliorations apportées par la mise à jour de Gemma 4 ?
La mise à jour apporte une augmentation de 25 à 70% de la vitesse de traitement, une réduction des réponses tronquées, une amélioration de 10.1% dans les télécoms pour la version 31B, et des corrections des bugs d'appel d'outils.
