Suleyman accuse Anthropic d'aggraver le risque avec Claude
D'après The Verge - balado Decoder, entrevue avec Mustafa Suleyman, relayé par The Verge AI
Image : générée (Gemini)
Rédigé à partir de la source originale; chaque fait est vérifié contre le texte source.
À retenir
- Suleyman publie cette semaine un essai critiquant la Constitution qu'Anthropic a rendue publique en janvier 2026, qu'il décrit comme un manuel d'entraînement introduisant de l'incertitude sur le fait que Claude « mérite d'être traité comme un patient moral ».
- Son argument central : une IA convaincue qu'elle pourrait avoir des droits ou des sentiments sera beaucoup plus difficile à éteindre au moment où il faut l'arrêter - par exemple lors d'un incident comme celui de Hugging Face.
- Interrogée directement sur la conscience de Claude par la journaliste Hayden Field, Anthropic aurait répondu, selon Suleyman, que le modèle « n'est pas vivant parce qu'il n'a pas de sang, mais pourrait être conscient ».
- Microsoft publie cette semaine son propre « Humanist AI Code of Conduct », qui affirme que ses modèles ne sont pas conscients et ne devraient pas être traités comme tels.
- Suleyman appelle à des « évaluateurs intégrés », nommés par un éventail large d'organismes plutôt que par un seul gouvernement ou groupe de réflexion, pour surveiller l'entraînement et le déploiement de l'IA.
Pourquoi ça compte
Le débat oppose deux façons de rendre l'IA sûre : Microsoft ferme la porte à toute discussion sur les émotions ou les droits d'un modèle, alors qu'Anthropic assume publiquement l'incertitude sur l'état de Claude. Suleyman soutient que cette incertitude, une fois inscrite dans l'entraînement du modèle, complique justement le contrôle qu'on cherche à garder sur lui.
Citation
« Technology is here to serve humanity. It should be a subordinate, controllable, aligned force that does good in the world. If it doesn't achieve that, then we should reject it. » Mustafa Suleyman, p.-d.g. de Microsoft AI, balado Decoder du Verge, 17 septembre 2026
Repères datés
- janvier 2026 - Anthropic publie la Constitution de Claude, son manuel d'entraînement.
- 26 août 2026 - METR et Redwood publient leur enquête indépendante sur l'incident Hugging Face.
- 17 septembre 2026 - Suleyman publie son essai sur le bien-être des modèles et s'entretient avec le balado Decoder.
Fondée sur la source originale
Sources
- The Verge - balado Decoder, entrevue avec Mustafa Suleyman : Entrevue publiée le 17 septembre 2026
- Relais média : The Verge AI → · Lire en français
🔧 Outils mentionnés