Les risques des IA génératives pour les institutions publiques
Les IA génératives produisent des synthèses d'informations publiques souvent dépassées ou inexactes, sans tenir compte des mises à jour ou des corrections. Cette absence de garde-fous pose des enjeux démocratiques majeurs pour les institutions.
« Les IA génératives fonctionnent autrement. Elles produisent des synthèses statistiques de textes ingérés à un instant T. » — Journal du Net - IA
Que faut-il retenir ?
- Les IA génératives utilisent des documents obsolètes, comme un rapport d'audit datant de plusieurs années.
- La CNIL reconnaît que ces systèmes génèrent des résultats inexacts mais plausibles, appelés hallucinations.
- La Sempro du Plessis-Robinson a été mal représentée par les IA génératives, avec 90% des décisions juridiques erronées.
- Les IA génératives ne distinguent pas les critiques anciennes des réponses récentes des institutions.
Pourquoi cette nouvelle compte-t-elle ?
Les IA génératives, en restituant des informations publiques obsolètes ou inexactes, peuvent fausser la perception des institutions et des décisions publiques. Cela pose des risques démocratiques importants, car ces erreurs peuvent influencer l'opinion publique et les décisions politiques sans vérification humaine. Les professionnels doivent être vigilants face à ces limitations pour éviter des interprétations erronées.
90% des décisions juridiques présentées comme concernant la Sempro du Plessis-Robinson étaient erronées.
💬 Walter Salamand et Corentin Congard, Avocats
Public concerné : entreprises, grand public
Pourquoi les IA génératives posent-elles des risques pour les institutions publiques ?
Les IA génératives utilisent des documents obsolètes et ne tiennent pas compte des mises à jour ou des corrections, ce qui peut fausser la perception des institutions et des décisions publiques.
Commentaires (0)
💡 Aucun lien externe ni code HTML accepté. Soyez respectueux. Les commentaires sont modérés avant publication.
Aucun commentaire pour le moment. Soyez le premier !