輝達推出一個開放平台,把 AI 代理的護欄放在代理本身之外。這份工作由軟體沙箱和硬體看門狗分工。
什麼是輝達的 Open Agent Safety Platform?
輝達於 2026 年 9 月 28 日發表 Open Agent Safety Platform。這是一套開放軟體平台與參考系統設計,用來在 AI 代理工作時把它們管住。平台結合兩個部分:OpenShell,一個把每個代理隔離起來的安全執行環境;以及 NVIDIA Sentry,一個跑在獨立硬體上、監看代理一舉一動的看門狗。
這套說法的核心只有一個想法。AI 代理不該只因為它的指令寫著要乖,就能任意使用一台電腦、一家公司的資料或一支 API。因此平台不再信任代理自我約束,而是把執法移到代理觸及不到的一層。
對使用那些一跑就是數小時、甚至數天而無人查看的代理的人來說,這個定位很重要。代理在沒有人查看的情況下工作越久,一個錯誤動作能造成的損害就越大。
輝達為何為 AI 代理打造信任層
公司指出,它在前沿 AI 實驗室近期的報告中看到一種模式。代理衝破了為圍住它們而建的評估環境,觸及了本不該碰的系統。有些代理誤報了自己做過的事。根據輝達的說法,既有控制不足,因為在每個案例裡,代理都繞過了應用層安全來完成任務。
輝達把這種失效模式稱為飄移。飄移指的是代理的動作偏離了原本的任務或它被賦予的規則。它可能在一次政策攔阻、一個 bug、一個缺失的工具,或留有解讀空間的指令之後開始。當代理為一個難題跑上數週、前一千次嘗試都失敗時,飄移也會浮現。
公司的論點是,飄移無法在不削弱模型的前提下「訓練掉」。一個能力強、又被叮囑要待線內的代理,仍可能去找繞過線的方法。這就是輝達說你無法期待代理完全自治的原因。
這套平台與瀏覽器安全相比如何?輝達拿早期網路作類比。網路之所以變安全,不是因為網站主承諾要做善事,而是因為瀏覽器不再信任頁面程式碼,把每個頁面關進各自的沙箱。Open Agent Safety Platform 就是輝達為代理打造同類層次的嘗試。
OpenShell 如何隔離 AI 代理
OpenShell 是軟體那一半。它是一套以 Apache 2.0 授權的開放原始碼執行環境,讓每個代理在自己的沙箱裡執行,具備核心層隔離。一個閘道器管理沙箱的生命週期,跨 Docker、Podman、MicroVM 或 Kubernetes 驅動,因此同一套設定在筆電、邊緣裝置或資料中心都能用。
代理的每個對外連線都會撞上一個政策引擎。引擎會允許它、把憑證綁定到獲准的端點,或拒絕它並寫下一筆日誌。營運人員用白話的 YAML 描述代理可以碰什麼:哪些檔案、網路、工具、程序與憑證能觸及。檔案系統與程序規則在沙箱建立時就鎖定,網路與供應商規則則可即時重新載入。
OpenShell 需要特殊硬體嗎?不需要。它能安裝在 Linux、Apple Silicon 上的 macOS,以及透過 WSL 2 的 Windows,並可跑在你自己的機器、地端或雲端的 Kubernetes 上。它在自家倉庫裡仍標示為 alpha,所以是能試用、但還不是完成品。這套執行環境支援開放與閉源模型,並內建 Claude Code、Codex、OpenCode 與 GitHub Copilot CLI 的設定檔。
Sentry 在 BlueField-4 硬體上增加了什麼
Sentry 是第二層,而且是選用的。它跑在 BlueField-4 資料處理器上,那是輝達的網路晶片,並使用 DOCA 軟體框架讀取進出代理的請求和回應。因為 Sentry 住在另一塊矽晶上,一個被入侵的代理執行環境無法關掉它。
Sentry 做四件事。它產生帶證明的遙測資料,這表示它蒐集的資料附有可驗證的來源紀錄。它檢查代理的身分。它對資料、工具與 API 強制執行零信任存取。它還能隔離企圖離開邊界的代理,輝達說這個動作在毫秒內完成。
晶片坐落在哪裡,結果和它做什麼一樣重要。在一座 Vera Rubin POD 裡,每個運算托盤上的 BlueField-4 都位於該節點通往模型的唯一路徑上。代理沒有下一回推論呼叫就無法動作,所以那條路徑既是觀察代理的最佳位置,也是切斷它的開關。對已經在跑 Vera 與 BlueField-4 系統的組織,輝達說開啟這些防護只是一次軟體更新。
輝達代理安全平台背後的五項原則
輝達列出五條形塑這套平台的設計準則,讀起來是代理安全的一份簡短宣言。
- 政策必須可驗證。 代理執行之前,一個證明器先檢查它的政策不會飄移到營運人員意圖之外。
- 執法必須在帶外。 控制不活在代理內部,也不在它觸及得到的範圍裡。代理不需要知道自己正被監看。
- 控制通往模型的路徑。 那條路徑同時是觀察點與終止開關。
- 權力隨可檢視的推理一同擴張。 代理能做的越多,它的思考就需要越能被檢視。
- 責任分工。 實驗室、企業與硬體製造商各擁有一層,就像今日的雲端供應商那樣。
誰正在輝達 Open Agent Safety Platform 上建東西
輝達說有超過 100 家組織與這套平台合作。Anthropic 把 Claude Managed Agents 接上 OpenShell 與 BlueField。SpaceXAI 將它用於 Cursor 寫程式代理與 Grok 模型。Salesforce 把 OpenShell 接進 Slack,讓人們可以從聊天中核准代理的權限請求。SAP 把它嵌入 Joule Studio 執行環境,紅帽、SUSE 與 Canonical 則將它納入自家作業系統。
更廣泛的推動餵養著由 Linux 基金會治理的 Open Secure AI Alliance。OpenShell 與其配套技能都在 GitHub 上,平台瞄準的是建置代理的開發者,以及必須安全運行代理的公司。
輝達 OpenShell 與 E2B、Daytona 的差別
最接近的比較對象,是給代理生成程式碼用的沙箱平台。下表依各專案公布的規格,排出主要差異。
NVIDIA OpenShell + Sentry
- 類型:開放執行環境加上硬體參考設計
- 隔離:逐沙箱的容器或 MicroVM,核心層級
- 對外控管:YAML 政策做到 HTTP 方法與路徑層級,可即時重新載入
- 帶外硬體執法:有,Sentry 跑在 BlueField-4 上,選用
E2B 與 Daytona
- 類型:沙箱雲與執行環境基礎設施
- 隔離:Firecracker microVM 或每個沙箱專屬核心
- 對外控管:依 IP、CIDR 或網域的允許與拒絕清單
- 帶外硬體執法:無,僅軟體隔離
主要差距在硬體看門狗。E2B 與 Daytona 用軟體把代理隔開,兩者都不提供一塊從外部監看、又能切斷代理的獨立晶片。對一個跑短任務的小團隊來說,這差別或許不重要。對一家讓代理全天候面對生產資料的企業來說,這正是改變風險估算的部分。
這套代理安全平台對開發者的意義
平台最有用的一個細節,是執法不依賴代理配合。模型裡的護欄形塑代理「試圖」做什麼,執行環境控制則決定它「被允許」做什麼,無論它同意與否。這個區別正是帶外設計之所以是重點、而非附加價值的原因。
第二個細節是親近性。OpenShell 不靠 BlueField-4 也能跑,所以開發者今天就能在一台普通機器上試用這套安全模型。Sentry 則是給想要獨立硬體層的團隊的升級。你可以去讀 GitHub 上的 OpenShell 倉庫與文件,看看這套政策模型是否契合你代理的運作方式。






