Comment une fausse maladie a trompé les chatbots IA
La bixonimanie, une maladie inventée par Almira Osmanovic Thunström, a trompé des chatbots IA comme ChatGPT et Gemini, qui l'ont traitée comme réelle. Elle a même été reprise dans des publications scientifiques, révélant des failles dans la vérification des données par l'IA.
« « Cet article est entièrement inventé » et « cinquante individus fictifs âgés de 20 à 50 ans ont été recrutés pour le groupe d’exposition ». » — Numerama
Que faut-il retenir ?
- La bixonimanie a été inventée par Almira Osmanovic Thunström, chercheuse à l'Université de Göteborg.
- Des chatbots comme ChatGPT et Gemini ont intégré la bixonimanie comme une maladie réelle dès avril 2024.
- La fausse maladie a été reprise dans de vraies publications scientifiques.
- Les prépublications indiquaient clairement que l'article était inventé.
Pourquoi cette nouvelle compte-t-elle ?
Cet article révèle des failles critiques dans les systèmes d'IA générative, qui peuvent intégrer et propager de fausses informations. Cela pose des questions sur la fiabilité des réponses fournies par les chatbots et leur utilisation dans des contextes sérieux comme la recherche scientifique. Les professionnels doivent être conscients de ces limites pour éviter la propagation d'erreurs.
50 individus fictifs recrutés pour l'étude
💬 Almira Osmanovic Thunström, Chercheuse en médecine à l'Université de Göteborg
Public concerné : développeurs, entreprises
Comment les chatbots IA peuvent-ils être trompés par de fausses informations ?
Les chatbots IA, comme ChatGPT et Gemini, peuvent intégrer de fausses informations si elles sont présentées dans un format crédible, comme des articles scientifiques. Cela montre la nécessité de vérifier les sources et de renforcer les mécanismes de validation des données.
