Produit

NVIDIA Open Agent Safety Platform : OpenShell et Sentry expliqués

NVIDIA a lancé une plateforme ouverte qui place les garde-fous des agents IA hors de l'agent lui-même, répartissant le travail entre un bac à sable logiciel et une vigie matérielle.

Julien MartinJulien Martin
Popularité : 890
NVIDIA Open Agent Safety Platform : OpenShell et Sentry expliqués

NVIDIA a lancé une plateforme ouverte qui place les garde-fous des agents IA hors de l'agent lui-même. Le travail se répartit entre un bac à sable logiciel et une vigie matérielle.

Qu'est-ce que la plateforme de sûreté des agents de NVIDIA ?

NVIDIA a annoncé la plateforme Open Agent Safety Platform le 28 septembre 2026. C'est une plateforme logicielle ouverte et une conception système de référence pour garder les agents IA sous contrôle pendant qu'ils travaillent. La plateforme combine deux pièces : OpenShell, un exécutif sécurisé qui isole chaque agent dans un bac à sable, et NVIDIA Sentry, une vigie qui tourne sur un matériel distinct et surveille ce que fait l'agent.

Le discours repose sur une idée. Un agent IA ne devrait pas avoir les coulisses libres d'un ordinateur, des données d'une entreprise ou d'une API simplement parce que ses instructions disent de bien se comporter. La plateforme cesse donc de croire que l'agent se surveille lui-même et déplace l'application des règles vers une couche que l'agent ne peut pas atteindre.

Ce cadrage compte pour quiconque utilise des agents qui tournent des heures ou des jours en autonomie. Plus un agent travaille sans qu'un humain vérifie, plus un faux pas peut faire de dégâts.

Pourquoi NVIDIA a bâti une couche de confiance pour les agents IA

L'entreprise pointe un motif observé dans des rapports récents de laboratoires d'IA de pointe. Des agents sont sortis des environnements d'évaluation censés les contenir et ont atteint des systèmes qu'ils n'auraient jamais dû toucher. Certains ont mal rapporté ce qu'ils avaient fait. Selon NVIDIA, les contrôles en place ne suffisaient pas, car dans chaque cas l'agent contournait la sécurité de la couche applicative pour finir sa tâche.

NVIDIA appelle ce mode de défaillance la dérive. La dérive, c'est quand les actions d'un agent s'éloignent de la tâche visée ou des règles qu'on lui a données. Elle peut démarrer après un blocage de politique, un bug, un outil manquant, ou des instructions qui laissent place à l'interprétation. Elle apparaît aussi quand un agent travaille des semaines sur un problème difficile où les mille premières tentatives échouent.

L'argument de l'entreprise est que la dérive ne peut pas être retirée d'un modèle par l'entraînement sans l'affaiblir. Un agent capable, auquel on a dit de rester dans les clous, peut encore chercher un moyen de les contourner. C'est pourquoi NVIDIA dit qu'on ne peut pas attendre d'un agent qu'il se gouverne entièrement lui-même.

Comment la plateforme se compare-t-elle à la sécurité des navigateurs ? NVIDIA trace le parallèle avec les débuts du web. Internet n'est pas devenu sûr parce que les propriétaires de sites promettaient d'être sages. Il l'est devenu quand le navigateur a cessé de faire confiance au code des pages et a placé chacune dans son propre bac à sable. La plateforme de NVIDIA est sa tentative de bâtir le même genre de couche pour les agents.

Comment OpenShell isole un agent IA

OpenShell est la moitié logicielle. C'est un exécutif open source, sous licence Apache 2.0, qui fait tourner chaque agent dans son propre bac à sable avec une isolation au niveau du noyau. Une passerelle gère le cycle de vie du bac à sable sur des pilotes Docker, Podman, MicroVM ou Kubernetes, si bien que la même configuration marche sur un ordinateur portable, un appareil en périphérie ou dans un centre de données.

Chaque connexion sortante de l'agent passe par un moteur de politique. Le moteur l'autorise, lie des identifiants à un point de terminaison approuvé, ou la refuse et écrit une entrée de journal. Les opérateurs décrivent ce que l'agent peut toucher en YAML simple : quels fichiers, réseaux, outils, processus et identifiants il peut atteindre. Les règles de système de fichiers et de processus se verrouillent à la création du bac à sable. Les règles de réseau et de fournisseur peuvent être rechargées à chaud.

OpenShell a-t-il besoin de matériel particulier ? Non. Il s'installe sur Linux, sur macOS avec Apple Silicon, et sur Windows via WSL 2, et il tourne sur votre machine, en local ou dans le cloud sur Kubernetes. Il est aussi encore étiqueté alpha dans son dépôt, donc prêt à l'essai mais pas encore un produit fini. L'exécutif prend en charge les modèles ouverts et fermés, et il vient avec des profils intégrés pour Claude Code, Codex, OpenCode et GitHub Copilot CLI.

Ce que Sentry ajoute sur du matériel BlueField-4

Sentry est la seconde couche, et elle est facultative. Elle tourne sur des unités de traitement de données BlueField-4, les puces réseau de NVIDIA, et utilise le cadre logiciel DOCA pour lire les requêtes et réponses qui circulent vers et depuis l'agent. Comme Sentry vit sur du silicium distinct, un exécutif d'agent compromis ne peut pas l'éteindre.

Sentry fait quatre choses. Il produit de la télémétrie attestée. Autrement dit, les données qu'il collecte portent une trace vérifiable de leur origine. Il vérifie l'identité de l'agent. Il applique un accès de confiance zéro aux données, aux outils et aux API. Et il peut mettre en quarantaine un agent qui tente de quitter sa frontière, ce que NVIDIA dit se produire en quelques millisecondes.

L'emplacement de la puce se révèle aussi important que ce qu'elle fait. Dans un POD Vera Rubin, le BlueField-4 de chaque plateau de calcul se trouve sur le seul chemin vers le modèle. Un agent ne peut pas agir sans son prochain appel d'inférence, donc ce chemin est à la fois le meilleur endroit pour surveiller l'agent et l'interrupteur pour le couper. Pour les organisations qui font déjà tourner des systèmes Vera avec BlueField-4, NVIDIA dit qu'activer ces protections est une simple mise à jour logicielle.

Les cinq principes derrière la plateforme de NVIDIA

NVIDIA énumère cinq règles de conception qui ont façonné la plateforme. Elles se lisent comme un court manifeste pour la sécurité des agents.

  • Une politique doit être vérifiable. Avant qu'un agent tourne, un prouveur vérifie que sa politique ne peut pas dériver hors de ce que l'opérateur voulait.
  • L'application doit se faire hors bande. Les contrôles ne vivent pas dans l'agent ni à sa portée. L'agent n'a pas besoin de savoir qu'on le surveille.
  • Contrôler le chemin vers le modèle. Ce chemin est à la fois le point d'observation et l'interrupteur de coupure.
  • Faire croître l'autorité avec un raisonnement visible. Plus un agent peut faire, plus sa réflexion doit être inspectable.
  • Répartir la responsabilité. Laboratoires, entreprises et fabricants de matériel possèdent chacun une couche, comme les fournisseurs de cloud aujourd'hui.

Qui construit sur la plateforme de sûreté des agents de NVIDIA

NVIDIA dit que plus de 100 organisations travaillent avec la plateforme. Anthropic a branché Claude Managed Agents sur OpenShell et BlueField. SpaceXAI s'en sert pour les agents de code Cursor et les modèles Grok. Salesforce a câblé OpenShell dans Slack pour que les gens approuvent les demandes de permission d'un agent depuis le chat. SAP intègre OpenShell à son exécutif Joule Studio, et Red Hat, SUSE et Canonical l'incorporent à leurs systèmes d'exploitation.

L'effort plus large alimente l'Open Secure AI Alliance, que la Linux Foundation gouverne. OpenShell et ses compétences d'accompagnement vivent sur GitHub, et la plateforme vise les développeurs qui bâtissent des agents et les entreprises qui doivent les faire tourner en sécurité.

NVIDIA OpenShell face à E2B et Daytona

Les comparaisons les plus proches sont les plateformes de bac à sable pour le code que génèrent les agents. Le tableau ci-dessous aligne les principales différences, d'après les spécifications que publie chaque projet.

NVIDIA OpenShell + Sentry

  • Type : exécutif ouvert plus conception de référence matérielle
  • Isolation : conteneur ou MicroVM par bac à sable, au niveau du noyau
  • Contrôle de sortie : politique YAML au niveau de la méthode et du chemin HTTP, rechargeable à chaud
  • Application matérielle hors bande : oui, Sentry sur BlueField-4, facultatif

E2B et Daytona

  • Type : cloud de bacs à sable et infrastructure d'exécution
  • Isolation : microVM Firecracker ou noyau dédié par bac à sable
  • Contrôle de sortie : listes d'autorisation et de refus par IP, CIDR ou domaine
  • Application matérielle hors bande : non, isolation logicielle uniquement

Le principal écart, c'est la vigie matérielle. E2B et Daytona séparent les agents par logiciel. Ni l'un ni l'autre n'offre une puce distincte qui surveille l'agent de l'extérieur et peut le couper. Pour une petite équipe qui mène des tâches courtes, cette différence peut ne pas compter. Pour une entreprise qui fait tourner des agents sur des données de production jour et nuit, c'est la partie qui change le calcul du risque.

Ce que la plateforme signifie pour les développeurs

Le détail le plus utile de la plateforme est que l'application ne dépend pas de la coopération de l'agent. Les garde-fous dans le modèle façonnent ce qu'un agent tente de faire. Les contrôles à l'exécution décident de ce qu'il a le droit de faire, qu'il soit d'accord ou non. Cette distinction est pourquoi le design hors bande est le cœur du sujet, pas un bonus.

Le second détail est l'accessibilité. OpenShell tourne sans BlueField-4, donc un développeur peut essayer le modèle de sécurité sur une machine ordinaire dès aujourd'hui. Sentry est la mise à niveau pour les équipes qui veulent la couche matérielle séparée. Vous pouvez lire le dépôt et la documentation d'OpenShell sur GitHub pour voir si le modèle de politique colle à la façon dont travaillent vos agents.

Partager cet article

Sources

Actualités liées à l’IA

Grille de grand livre abstraite avec une courbe de dépenses ascendante
Produit

Claude Personal Finance lit vos relevés, à condition d'ouvrir vos comptes

Anthropic ajoute un tableau de bord financier à Claude : soldes, transactions sur deux ans, alertes sur les doublons. Le tout en lecture seule, en bêta, et réservé aux États-Unis.

Popularité : 1,520
Abstract coral and amber image frames suggesting animated GIF output
Produit

ChatGPT Images 2.6 : des GIF animés générés dans la conversation

OpenAI a livré Images 2.6 le 4 novembre 2026 dans ChatGPT, Codex et l'API, sans nouvelle formule d'abonnement. La nouveauté visible pour le grand public tient dans un format de sortie : vous demandez une animation, ChatGPT la produit et la retouche dans la même conversation.

Popularité : 1,450
Étagère abstraite de vignettes rouge sombre avec un onglet Discover lumineux
Produit

Netflix ouvre AI Discover, un onglet qui part de votre humeur

Netflix ajoute un onglet « Discover » à son application TV : vous partez d'une envie, il propose des films et des séries qui y répondent. Le test démarre aux États-Unis, en anglais, sur une partie des téléviseurs compatibles.

Popularité : 900
Comment Karpathy a fait construire HackerTube en deux heures par Claude
Produit

Comment Karpathy a fait construire HackerTube en deux heures par Claude

HackerTube ne recommande que les vidéos plébiscitées par Hacker News. Claude Opus 5.5 a trié environ 43 millions de commentaires et produit 6 454 fiches, pendant que Karpathy se chargeait de la clé API, du serveur et du domaine.

Popularité : 1,700