DeepSeek ouvre son moteur d'inférence DeepInfer : la marge de 80 % qu'on lui prête vient de tiers
D'après DeepSeek - dépôt GitHub DeepInfer et Latent Space (AINews), relayé par Latent Space
Photo : Jimmy Chan, Pexels
Rédigé à partir de la source originale; chaque fait est vérifié contre le texte source.
Annonce commerciale : ce document émane de l'entreprise concernée.
À retenir
- Ce que DeepSeek publie : le moteur d'inférence hors ligne derrière son modèle V4.1 Flash, sous licence Apache 2.0, avec noyaux optimisés, décodage spéculatif et sorties structurées, pour cartes NVIDIA SM100 et puces Huawei Ascend 950.
- Ce que DeepSeek déclare lui-même : un seul cluster sert 155 billions de tokens par jour (155 000 milliards), pour un revenu de 38 $ US par GPU-heure en tarif creux. C'est un revenu, pas un profit.
- Ce qui n'est PAS publié : le système de cache KV, la désagrégation prefill/decode complète et l'équilibrage de charge entre réplicas ne font pas partie de cette version. Faire tourner le service en ligne complet exige encore ces composants.
- D'où viennent les chiffres viraux : la marge d'environ 80 %, le revenu de 22 M$ par jour et la rentabilité en 81 jours sont des calculs de tiers, dont swyx de Latent Space, pas des données de DeepSeek. Les estimations de marge diffèrent largement selon le coût supposé du GPU.
- À relire avec prudence : les 155 billions de tokens par jour sont du trafic qui réutilise massivement le cache (96 % de succès en entrée d'après le compte rendu relayé; DeepSeek conserve le cache plus de 72 heures), pas 155 billions de tokens frais générés chaque jour.
Pourquoi ça compte
Pour un lecteur d'ici, l'épisode éclaire le vrai coût d'exploitation de l'IA à grande échelle et la rivalité des laboratoires chinois sur l'efficacité. Il rappelle surtout une discipline utile : séparer ce qu'une entreprise DÉCLARE (volume, revenu) de ce qu'un tiers EXTRAPOLE (marge, rentabilité), car la première donnée se vérifie à la source et la seconde dépend d'hypothèses invérifiables.
Chiffre-clé
Un cluster de DeepSeek sert 155 billions de tokens par jour (155 000 milliards), pour un revenu de 38 $ US par GPU-heure en tarif creux, selon la documentation de déploiement publiée par DeepSeek.
Action concrète
Devant une annonce d'efficacité d'IA, distinguer les chiffres DÉCLARÉS par l'entreprise de ceux EXTRAPOLÉS par des tiers, et vérifier si un montant est un revenu ou un profit : la différence change tout le portrait de rentabilité.
Sources originale et média
Sources
- DeepSeek - dépôt GitHub DeepInfer
- Latent Space (AINews)
- Relais média : Latent Space → · Lire en français
🔧 Outils mentionnés