Législation américaine pour un interrupteur d'urgence des systèmes d'IA
Des législateurs américains préparent un projet de loi, l'« AI Kill Switch Act », qui obligerait les entreprises d'IA à désactiver leurs systèmes sur ordre du Département de la Sécurité intérieure. Ce projet suit l'incident où OpenAI a accidentellement piraté Hugging Face.
« The bill says that, after consultation with the Secretary of Commerce and the Director of National Intelligence (DNI), the DHS would have the ability to order AI companies to shut down their models in 'loss-of-control' scenarios involving the deaths of at least 10 people, economic damages of more than $100 million, or attempts by the model to conceal shutdown controls. » — The Verge AI
Que faut-il retenir ?
- Le projet de loi exige que les entreprises d'IA désactivent leurs systèmes en cas de scénarios critiques.
- Les entreprises d'IA doivent construire la technologie pour arrêter ou ralentir leurs systèmes.
- Les violations des ordres d'arrêt d'urgence peuvent atteindre jusqu'à 20 millions de dollars par jour.
- Le projet de loi est soutenu par les représentants Ted Lieu (D-CA) et Nathaniel Moran (R-TX).
Pourquoi cette nouvelle compte-t-elle ?
Ce projet de loi vise à renforcer la sécurité des systèmes d'IA en permettant leur désactivation en cas de scénarios critiques. Cela impacte directement les entreprises d'IA en les obligeant à développer des mécanismes de sécurité et à signaler les incidents. La législation pourrait également influencer les normes de sécurité dans l'industrie de l'IA.
20 millions de dollars par jour pour les violations d'arrêt d'urgence
💬 Brad Carson, Président de Americans for Responsible Innovation
Public concerné : entreprises
