Google et NVIDIA révolutionnent l'infrastructure IA
Google et NVIDIA dévoilent une infrastructure IA optimisée avec les instances A5X, réduisant les coûts d'inférence par 10 et multipliant le débit par 10. Les GPUs Rubin NVIDIA et la technologie Virgo de Google permettent de scaler jusqu'à 960 000 GPUs en multisite.
Points clés
- Les instances A5X réduisent les coûts d'inférence IA par 10 tout en augmentant le débit par 10 par rapport aux générations précédentes.
- L'architecture combine 80 000 GPUs Rubin NVIDIA dans un seul cluster et peut atteindre 960 000 GPUs en déploiement multisite.
- Google Distributed Cloud intègre des modèles Gemini sur GPUs Blackwell avec Confidential Computing pour la souveraineté des données.
- NVIDIA Nemotron 3 Super est désormais disponible sur la plateforme Gemini Enterprise Agent pour simplifier le développement d'IA agentique.
Pourquoi c'est important
Ces innovations permettent aux entreprises de réduire drastiquement les coûts d'inférence IA tout en respectant les exigences de souveraineté des données. Les secteurs réglementés comme la finance et la santé bénéficient de solutions sécurisées pour déployer des modèles d'IA à grande échelle sans compromettre la confidentialité.
Public concerné : entreprises, développeurs
Comment Google et NVIDIA réduisent-ils les coûts d'inférence IA ?
Grâce aux instances A5X et une architecture optimisée, ils divisent par 10 les coûts d'inférence tout en multipliant par 10 le débit. Cette solution combine des milliers de GPUs Rubin avec la technologie réseau Virgo de Google.
Commentaires (0)
Aucun commentaire pour le moment. Soyez le premier !