IA générative : l'énigme économique des tokens
Les géants tech investissent des centaines de milliards dans les LLM comme ChatGPT, mais la tarification basée sur les tokens reste complexe. Goldman Sachs prévoit une explosion à 120 quadrillions de tokens/mois d'ici 2030. Les entreprises peinent à contrôler ces coûts imprévisibles.
« "People are finding it really hard to manage that cost… it's a non-deterministic output, so it's a non-deterministic value," » - BBC Technology
Que faut-il retenir ?
- Microsoft, Google et Anthropic ont investi des centaines de milliards dans les LLM.
- Goldman Sachs prévoit 120 quadrillions de tokens consommés mensuellement d'ici 2030.
- Uber a épuisé son budget annuel de tokens en quelques mois en 2024.
- Les prompts génèrent des réponses imprévisibles, compliquant la tarification.
Pourquoi cette nouvelle compte-t-elle ?
L'imprévisibilité des coûts liés aux tokens impacte directement la rentabilité des services IA. Les entreprises doivent repenser leur gestion des prompts et leur choix de modèles pour maîtriser ces dépenses croissantes, avec des implications majeures sur les business models.
120 quadrillions de tokens/mois d'ici 2030
💬 Will Venters, Professeur associé en innovation digitale à la London School of Economics
Public concerné : entreprises
Comment les entreprises peuvent-elles contrôler leurs coûts en tokens avec l'IA générative ?
En optimisant leurs prompts et en choisissant judicieusement leurs modèles IA. Certaines utilisent des comptes personnels à tarif fixe, mais cette pratique pourrait être restreinte à l'avenir par les fournisseurs.
