Meta alerte les parents sur les propos suicidaires des ados
Meta a développé un système d'IA analysant en temps réel les conversations des adolescents avec son chatbot. Lorsqu'une référence au suicide ou à l'automutilation est détectée, une alerte est envoyée aux parents. Les services d'urgence peuvent aussi être contactés en cas de risque imminent.
« Meta indique avoir effectué 19 000 signalements aux autorités l’an dernier dans le cadre de ce programme. » — Siecle Digital
Que faut-il retenir ?
- Meta a construit un système d'IA analysant les conversations des adolescents avec Meta AI.
- 19 000 signalements aux autorités ont été effectués l'an dernier.
- Le paramètre du Contenu limité s'applique désormais au chatbot Meta AI.
- Les parents peuvent voir les sujets abordés par leur adolescent avec le chatbot.
Pourquoi cette nouvelle compte-t-elle ?
Cette innovation impacte directement les professionnels de la tech en matière de sécurité et d'éthique. Elle soulève des questions sur l'efficacité des systèmes de détection et la responsabilité des plateformes. Les développeurs doivent intégrer ces mécanismes de sécurité tout en respectant la vie privée.
19 000 signalements aux autorités l’an dernier
💬 Kaitlynn Mendes, professeure de sociologie à l’Université Western
Public concerné : grand public, entreprises
