OpenAI filigrane les textes de ChatGPT (textGrain) pour la loi européenne sur l'IA
D'après OpenAI - Our approach to EU text provenance rules, relayé par OpenAI Blog
Image générée par IA (DALL·E, ChatGPT)
Rédigé à partir de la source originale; chaque fait est vérifié contre le texte source.
Annonce commerciale : ce document émane de l'entreprise concernée.
À retenir
- Le filigrane ajoute au texte un signal statistique invisible, qu'un détecteur peut ensuite rechercher, décrit OpenAI.
- Dans l'interface de programmation (API), le filigrane est activable dans le monde entier pour certains modèles, mais désactivé par défaut; OpenAI prévoit de l'ajouter, dans les semaines à venir, aux textes admissibles de ChatGPT et de Codex dans l'Union européenne seulement.
- Le détecteur qui lit le filigrane n'est pas publié au lancement : OpenAI en ouvre l'accès à des chercheurs et des organismes experts approuvés.
- Selon OpenAI, la détection reste imparfaite : un texte court ou contraint est plus difficile à repérer, et modifier le texte affaiblit le filigrane.
- OpenAI énumère cinq limites : le filigrane ne mesure pas la part humaine, n'établit ni propriété ni responsabilité, n'identifie pas l'utilisateur, ne vérifie pas l'exactitude, et son absence ne prouve pas qu'un humain a rédigé le texte.
Pourquoi ça compte
La loi européenne sur l'IA oblige les fournisseurs d'IA générative à rendre les textes produits identifiables par une machine; OpenAI présente textGrain comme sa réponse. Le choix d'un marquage automatique réservé à la seule Union européenne dessine un bornage régional : hors de l'UE, rien n'est marqué par défaut. laveille.ai avait déjà relaté une démarche comparable d'Anthropic pour l'Europe. Et comme le détecteur n'est pas publié, le lecteur ordinaire ne peut pas vérifier lui-même si un texte porte le filigrane.
Fondée sur la source originale
Sources
🔧 Outils mentionnés