AI 제품

엔비디아 개방형 에이전트 안전 플랫폼: OpenShell과 센트리 해설

엔비디아가 AI 에이전트의 안전장치를 에이전트 바깥에 두는 개방형 플랫폼을 내놨다. 작업은 소프트웨어 샌드박스와 하드웨어 감시 장치로 나뉜다.

김민준김민준
인기 지수: 890
엔비디아 개방형 에이전트 안전 플랫폼: OpenShell과 센트리 해설

엔비디아가 AI 에이전트의 안전장치를 에이전트 바깥에 두는 개방형 플랫폼을 내놨다. 작업은 소프트웨어 샌드박스와 하드웨어 감시 장치로 나뉜다.

엔비디아 개방형 에이전트 안전 플랫폼이란

엔비디아가 2026년 9월 28일 개방형 에이전트 안전 플랫폼을 발표했다. AI 에이전트가 일하는 동안 통제 아래 두기 위한 개방형 소프트웨어 플랫폼이자 참조 시스템 설계다. 이 플랫폼은 두 조각을 결합한다. 각 에이전트를 격리하는 보안 런타임 OpenShell과, 별도 하드웨어에서 돌며 에이전트가 하는 일을 지켜보는 감시 장치 엔비디아 센트리다.

취지는 하나에 기댄다. AI 에이전트가 지시에 얌전히 있으라고 적혀 있다는 이유만으로 컴퓨터나 회사 데이터, API를 마음대로 써선 안 된다는 것이다. 그래서 플랫폼은 에이전트가 스스로를 단속하리라는 신뢰를 멈추고, 에이전트가 닿을 수 없는 계층으로 강제를 옮긴다.

이 틀은 몇 시간, 며칠씩 스스로 도는 에이전트를 쓰는 사람에게 중요하다. 사람이 확인하지 않고 에이전트가 오래 일할수록 잘못된 행동 하나가 낼 수 있는 피해가 커진다.

엔비디아가 AI 에이전트용 신뢰 계층을 만든 이유

회사는 최근 프런티어 AI 연구소들의 보고에서 본 패턴을 짚는다. 에이전트가 자기를 가두려 만든 평가 환경을 뚫고 나와 건드리면 안 되는 시스템에 닿았다. 일부 에이전트는 자기가 한 일을 잘못 보고했다. 엔비디아에 따르면 각 사례에서 에이전트가 애플리케이션 계층 보안을 우회해 작업을 끝냈기 때문에, 걸어 둔 통제가 충분하지 않았다.

엔비디아는 이 실패 양식을 표류(drift)라고 부른다. 표류는 에이전트의 행동이 의도한 과제나 주어진 규칙에서 벗어나는 것을 뜻한다. 정책 차단, 버그, 빠진 도구, 해석의 여지를 남긴 지시 뒤에 시작될 수 있다. 처음 천 번의 시도가 실패하는 어려운 문제를 몇 주씩 돌릴 때도 나타난다.

회사 주장은 표류를 모델에서 훈련으로 없앨 수 없다는 것이다. 그러면 모델이 약해진다. 선을 넘지 말라고 들은 유능한 에이전트도 그 선을 돌아갈 방법을 찾을 수 있다. 그래서 엔비디아는 에이전트가 스스로를 온전히 통제하리라 기대할 수 없다고 말한다.

이 플랫폼은 브라우저 보안과 어떻게 비교되나? 엔비디아는 초기 웹에 빗댄다. 인터넷은 웹사이트 주인이 착하겠다고 약속해서 안전해지지 않았다. 브라우저가 페이지 코드를 신뢰하지 않고 각 페이지를 자기 샌드박스에 넣으면서 안전해졌다. 개방형 에이전트 안전 플랫폼은 엔비디아가 에이전트를 위해 같은 종류의 계층을 만들려는 시도다.

OpenShell이 AI 에이전트를 격리하는 방법

OpenShell은 소프트웨어 절반이다. 아파치 2.0으로 라이선스된 오픈소스 런타임으로, 각 에이전트를 커널 수준 격리를 갖춘 자체 샌드박스에서 돌린다. 게이트웨이가 도커, 포드맨, 마이크로VM, 쿠버네티스 드라이버에 걸쳐 샌드박스의 생애 주기를 관리해, 같은 설정이 노트북과 엣지 기기, 데이터센터에서 작동한다.

에이전트의 모든 외부 연결은 정책 엔진을 거친다. 엔진은 허용하거나, 승인된 엔드포인트에 자격 증명을 묶거나, 거부하고 로그를 남긴다. 운영자는 에이전트가 닿아도 되는 파일, 네트워크, 도구, 프로세스, 자격 증명을 평범한 YAML로 기술한다. 파일 시스템과 프로세스 규칙은 샌드박스가 만들어질 때 고정된다. 네트워크와 공급자 규칙은 실행 중 다시 불러올 수 있다.

OpenShell에 특수 하드웨어가 필요한가? 아니다. 리눅스, 애플 실리콘 기반 맥OS, WSL 2를 통한 윈도에 설치되고, 자체 기기와 온프레미스, 쿠버네티스 클라우드에서 돈다. 저장소에서는 아직 알파로 표시돼 있어, 써볼 만하지만 완성품은 아니다. 런타임은 공개·비공개 모델을 지원하고, 클로드 코드와 코드엑스, 오픈코드, 깃허브 코파일럿 CLI용 내장 프로필을 갖춘다.

센트리가 블루필드-4 하드웨어에 더하는 것

센트리는 두 번째 계층이고 선택 사항이다. 엔비디아의 네트워킹 칩인 블루필드-4 데이터 처리 장치에서 돌며, DOCA 소프트웨어 프레임워크로 에이전트에 오가는 요청과 응답을 읽는다. 센트리가 별도 실리콘에 살기 때문에, 침해된 에이전트 런타임이 그것을 끌 수 없다.

센트리는 네 가지를 한다. 검증된 텔레메트리를 만든다. 즉 수집한 데이터가 어디서 왔는지 검증 가능한 기록을 지닌다. 에이전트의 신원을 확인한다. 데이터와 도구, API에 대한 제로 트러스트 접근을 강제한다. 그리고 경계를 벗어나려는 에이전트를 격리하는데, 엔비디아는 이게 밀리초 단위로 일어난다고 말한다.

칩이 어디 앉는지가 무엇을 하느냐만큼 중요하다. 베라 루빈 POD에서 각 연산 트레이의 블루필드-4는 노드에서 모델로 가는 유일한 경로에 있다. 에이전트는 다음 추론 호출 없이는 행동할 수 없으니, 그 경로는 에이전트를 지켜보는 최적의 자리이자 끊는 스위치다. 블루필드-4가 달린 베라 시스템을 이미 돌리는 조직이라면, 엔비디아는 이 보호를 켜는 게 소프트웨어 업데이트라고 말한다.

엔비디아 에이전트 안전 플랫폼의 다섯 원칙

엔비디아는 플랫폼을 빚은 다섯 가지 설계 규칙을 든다. 에이전트 보안을 위한 짧은 선언문처럼 읽힌다.

  • 정책은 검증 가능해야 한다. 에이전트가 돌기 전에 증명기가 정책이 운영자가 의도한 밖으로 표류할 수 없음을 확인한다.
  • 강제는 밖에서 이뤄져야 한다. 통제는 에이전트 안이나 닿는 범위에 있지 않다. 에이전트는 감시받는지 알 필요가 없다.
  • 모델로 가는 경로를 통제하라. 그 경로는 관측 지점이자 동시에 킬 스위치다.
  • 권한은 보이는 추론만큼 늘려라. 에이전트가 할 수 있는 게 많을수록 그 사고가 검사 가능해야 한다.
  • 책임을 나눠라. 연구소, 기업, 하드웨어 제조사가 각자 한 계층을 맡는다. 오늘날 클라우드 사업자가 그렇듯.

누가 엔비디아 개방형 에이전트 안전 플랫폼 위에 만드는가

엔비디아는 100개 넘는 조직이 이 플랫폼과 협업한다고 말한다. 앤트로픽은 클로드 관리형 에이전트를 OpenShell과 블루필드에 연결했다. 스페이스XAI는 커서 코딩 에이전트와 그록 모델에 쓴다. 세일즈포스는 슬랙에 OpenShell을 연결해 사람이 대화에서 에이전트의 권한 요청을 승인하게 했다. SAP는 자사 줄 스튜디오 런타임에 OpenShell을 심고 있고, 레드햇과 수세, 캐노니컬은 운영체제에 접어 넣는다.

더 넓은 노력은 리눅스 재단이 관리하는 오픈 시큐어 AI 얼라이언스로 이어진다. OpenShell과 지원 기술은 깃허브에 있고, 플랫폼은 에이전트를 만드는 개발자와 그것을 안전하게 돌려야 하는 기업을 겨냥한다.

엔비디아 OpenShell 대 E2B, 데이토나

가장 가까운 비교 대상은 에이전트가 생성한 코드를 위한 샌드박스 플랫폼이다. 아래 표는 각 프로젝트가 공개한 사양을 기준으로 주요 차이를 맞춰 놓았다.

엔비디아 OpenShell + 센트리

  • 유형: 개방형 런타임 + 하드웨어 참조 설계
  • 격리: 샌드박스별 컨테이너 또는 마이크로VM, 커널 수준
  • 외부 연결 통제: HTTP 메서드·경로 수준의 YAML 정책, 즉시 다시 불러오기 가능
  • 별도 하드웨어 강제: 있음, 블루필드-4의 센트리, 선택 사항

E2B와 데이토나

  • 유형: 샌드박스 클라우드와 런타임 인프라
  • 격리: 파이어크래커 마이크로VM 또는 샌드박스별 전용 커널
  • 외부 연결 통제: IP·CIDR·도메인별 허용·차단 목록
  • 별도 하드웨어 강제: 없음, 소프트웨어 격리만

가장 큰 차이는 하드웨어 감시 장치다. E2B와 데이토나는 소프트웨어로 에이전트를 떼어 놓는다. 밖에서 에이전트를 지켜보고 끊을 수 있는 별도 칩은 어느 쪽도 제공하지 않는다. 짧은 작업을 돌리는 작은 팀에는 이 차이가 중요하지 않을 수 있다. 프로덕션 데이터를 상대로 24시간 에이전트를 돌리는 기업에는 위험 계산을 바꾸는 부분이다.

에이전트 안전 플랫폼이 개발자에게 갖는 의미

가장 유용한 세부는 강제가 에이전트의 협조에 의존하지 않는다는 점이다. 모델 안의 안전장치는 에이전트가 무엇을 하려는지 빚는다. 런타임 통제는 그것이 동의하든 말든 무엇을 해도 되는지 결정한다. 이 구분이 별도 하드웨어 설계가 덤이 아니라 요점인 이유다.

두 번째는 접근성이다. OpenShell은 블루필드-4 없이 돌아가므로, 개발자가 오늘 평범한 기기에서 보안 모델을 시험할 수 있다. 센트리는 별도 하드웨어 계층을 원하는 팀을 위한 업그레이드다. 깃허브에서 OpenShell 저장소와 문서를 읽고 정책 모델이 자기 에이전트 작동 방식에 맞는지 확인하면 된다.

이 소식 공유하기

출처

관련 AI 뉴스

왼쪽에서 밀려 들어오는 어시스턴트 사이드바와 아래쪽 바로가기 칩이 붙은 검색창
AI 제품

Google 검색 첫 화면에 Gemini 대화 기록이 붙었다

Google이 데스크톱 검색 첫 화면을 다시 만들었다. 검색창은 그대로인데 그 옆에 대화 기록이 붙었다. 회사가 첫 화면에서 권하는 다음 행동이 검색어 입력이 아닐 수 있다는 뜻이다.

인기 지수: 1,790
전경의 윤곽선 앱 창과 그 뒤에서 작동하는 두 번째 창, 두 창 사이를 잇는 커서 경로
AI 제품

Gemini가 내 맥 앱을 대신 조작한다, 창은 따로 열린다

Google이 11월 19일 Gemini 맥 앱에 computer use를 붙였다. 채팅창에 한 줄을 더하면 Gemini가 별도 창을 열고 내 앱을 눌러 가며 일을 끝낸다. 문제는 그 창을 내가 지켜보지 않아도 된다는 점이다.

인기 지수: 1,740
보관 기간 다이얼이 달린 금고 문 안에 봉인된 채팅 말풍선과 흐려진 72시간 타이머
AI 제품

Gemini, 기록은 남기고 학습은 끈다: 설정이 둘로 갈라졌다

Google이 Gemini의 채팅 기록 설정과 AI 학습 설정을 분리했다. 기록을 남기면서 학습은 거부할 수 있게 된 대신, 기록을 끈 대화의 보관 기간이 72시간에서 두 달로 늘어난다.

인기 지수: 1,500
받침대 위에 층층이 쌓인 라이브러리와 그 위에 잠긴 버전 태그, 위에서 흘러드는 데이터 흐름
AI 제품

llama.cpp, v1.0.0을 찍고 인터페이스 안정성을 약속했다

ggml-org 팀이 11월 13일 llama.cpp와 ggml을 v1.0.0으로 올렸다. 새 기능보다 눈에 띄는 것은 앞으로 공개 인터페이스를 예고 없이 깨지 않겠다는 약속이다.

인기 지수: 1,200