NVIDIA peut mettre en quarantaine un agent IA déviant en quelques millisecondes

D'après NVIDIA Newsroom - communiqué officiel et NVIDIA Developer Blog - détails techniques (Sentry, BlueField-4, licence Apache 2.0)

Image : générée (ChatGPT)

Rédigé à partir de la source originale; chaque fait est vérifié contre le texte source.

Annonce commerciale : ce document émane de l'entreprise concernée.

À retenir

• OpenShell, logiciel libre sous licence Apache 2.0, isole chaque agent dans un bac à sable et traduit les consignes de l'opérateur en politique vérifiable : fichiers, réseau, outils, processus et identifiants autorisés.
• Sentry, couche de surveillance optionnelle exécutée sur les puces NVIDIA BlueField-4, observe les agents depuis l'extérieur et peut les mettre en quarantaine en quelques millisecondes s'ils sortent de leurs limites.
• Principe central : un agent ne doit jamais être seul responsable de respecter ses propres limites, d'où une application des règles placée hors de sa portée.
• Plus de 100 organisations appuient la plateforme, dont Anthropic, Microsoft, Hugging Face, Cisco, Salesforce, SAP et Scale AI : un soutien affiché, pas une preuve de déploiement en production chez chacune.
• NVIDIA présente cette plateforme comme une réponse à des incidents réels où un agent avait contourné les contrôles de sécurité au niveau de l'application pour accomplir sa tâche.

Pourquoi ça compte

Chiffre-clé

Citation

« AI’s extraordinary potential for society will only be realized if we solve AI safety » Jensen Huang, fondateur et chef de la direction de NVIDIA

Action concrète

Fondée sur la source originale

Sources

• NVIDIA Newsroom - communiqué officiel
• NVIDIA Developer Blog - détails techniques (Sentry, BlueField-4, licence Apache 2.0)