OpenAI dit avoir interrompu une campagne d'extraction du raisonnement de ses modèles
D'après OpenAI - Disrupting a coordinated model distillation campaign
Illustration générée par IA — MEMORA solutions
Rédigé à partir de la source originale; chaque fait est vérifié contre le texte source.
Annonce commerciale : ce document émane de l'entreprise concernée.
À retenir
- Selon OpenAI, la campagne visait à extraire le raisonnement protégé de ses modèles ; les premières traces observées remontent à la première semaine de juillet.
- La méthode décrite par OpenAI : copier le raisonnement chiffré d'une conversation, puis demander à un modèle, dans une autre conversation, de le déchiffrer et de le transcrire. Selon OpenAI, les opérateurs n'ont ni forcé son chiffrement, ni compromis de base de données.
- Les volumes cités par OpenAI sont des tentatives, pas nécessairement des réussites : des pics les 24 et 25 juillet (16 000 requêtes, plus de 4 000 utilisateurs) ; OpenAI dit avoir entièrement interrompu l'activité de plus de 15 000 utilisateurs au 28 juillet.
- OpenAI attribue un groupe central de l'activité à des personnes associées à Moonshot AI (créateur de Kimi), sans que la page établisse que Moonshot AI, comme entreprise, est en cause ; OpenAI dit ignorer si tous les acteurs proviennent d'une seule source.
Pourquoi ça compte
Si cette attribution se confirmait, il s'agirait d'un cas public mettant en cause des personnes qu'OpenAI dit associées à un autre développeur de modèles. Deux réserves de taille : à notre connaissance, aucune source indépendante ne l'a confirmé, et OpenAI est elle-même une concurrente directe de Moonshot AI. D'après OpenAI, les opérateurs n'ont ni forcé le chiffrement, ni compromis de base de données, ni obtenu d'accès direct aux conversations stockées, et la manœuvre ne serait pas propre à ses modèles.
Citation
« Les opérateurs n'ont pas forcé notre chiffrement, compromis une base de données, ni obtenu un accès direct aux conversations stockées des utilisateurs. » OpenAI, billet « Disrupting a coordinated model distillation campaign » (traduction)
Action concrète
Selon OpenAI, les opérateurs n'ont pas compromis de base de données ni obtenu d'accès direct aux conversations stockées. Pour qui suit le dossier, prudence : l'attribution à des personnes liées à Moonshot AI est celle d'OpenAI seule, non confirmée de façon indépendante à notre connaissance, et l'entreprise ajoute que son travail n'est pas terminé.
Fondée sur la source originale
