AI 에이전트가 파일을 수정하고 외부 API를 호출하며 실제 업무를 수행할 때, 모델에 입력한 지시만으로 접근 권한을 통제할 수 있을까.NVIDIA가 새로 발표한 Open Agent Safety Platform은 이 문제를 에이전트 바깥의 실행환경과 별도 하드웨어에서 다루는 소프트웨어·시스템 설계다.

01. NVIDIA, Open Agent Safety Platform 발표

NVIDIA는 AI 에이전트의 시험부터 실제 배포까지 보안 통제를 적용하기 위한 개방형 소프트웨어 플랫폼과 참조 시스템 설계인 Open Agent Safety Platform을 발표했다. 에이전트가 모델의 답변을 생성하는 데 그치지 않고 코드 실행, 파일 처리, 서비스 접속 등 외부 시스템에 영향을 주는 작업을 수행할 때 적용할 수 있는 실행환경 중심의 통제 구조다.

이번 발표의 핵심은 OpenShell과 Sentry라는 서로 다른 계층을 하나의 플랫폼 구조로 제시한 것이다. OpenShell은 이번에 처음 등장한 기술이 아니다. 기존에 공개된 보안 실행환경으로, 이번 발표에서 NVIDIA는 이를 폭넓게 사용할 수 있는 소프트웨어로 소개했다. 여기에 별도의 하드웨어에서 감시하는 Sentry 참조 시스템 설계를 결합했다.

NVIDIA에 따르면 조직은 요구사항에 따라 플랫폼의 구성요소를 선택적으로 배포할 수 있다. 따라서 OpenShell을 사용하는 환경이 모두 Sentry의 하드웨어 감시 기능까지 갖추는 것은 아니다.

02. OpenShell, 에이전트 바깥에서 실행 권한 통제

OpenShell은 AI 에이전트를 격리된 실행환경인 샌드박스(Sandbox)에서 실행하고, 해당 에이전트가 접근할 수 있는 시스템 자원과 외부 서비스를 정책으로 제한하는 공개 소프트웨어다. NVIDIA의 설명에 따르면 보호 경계는 모델이나 에이전트 애플리케이션 내부가 아니라, 실제 작업이 실행되는 환경에 적용된다.

OpenShell의 공식 보안 문서는 통제 대상을 네트워크, 파일시스템, 프로세스, 서비스 인증정보의 네 영역으로 구분한다. 외부 연결은 정책 프록시와 정책 엔진을 통해 검사하고, 파일 접근에는 Linux Landlock, 프로세스에는 Seccomp BPF와 권한 축소를 사용한다. 서비스 인증정보는 에이전트에 원본 키를 직접 노출하는 대신, 승인된 연결에 한해 프록시가 처리할 수 있도록 설계됐다.

이들 통제는 모두 같은 방식으로 변경되지는 않는다. 공식 문서에 따르면 네트워크 정책과 인증정보 연결은 실행 중 갱신할 수 있지만, 파일시스템과 프로세스에 적용하는 정적 제한을 바꾸려면 샌드박스를 다시 생성해야 한다. 구체적인 정책 작성법과 운영체제 수준의 집행 원리는 별도의 기술 해설에서 다룰 수 있다.

03. Sentry, BlueField-4에서 별도로 감시하는 하드웨어 계층

이번 플랫폼 발표에서 OpenShell과 함께 제시된 또 하나의 구성요소는 NVIDIA Sentry다. Sentry는 NVIDIA BlueField-4 데이터 처리 장치(DPU)에서 동작하는 별도 감시 장치(Out-of-Band Watchdog)를 포함하는 참조 시스템 설계다.

OpenShell이 에이전트가 실행되는 CPU 측에서 정책을 적용한다면, Sentry는 호스트의 에이전트 실행환경과 분리된 하드웨어 영역에서 행동을 지속적으로 감시하도록 설계됐다. NVIDIA는 에이전트가 소프트웨어상 허용된 경계를 벗어나려 할 때 Sentry가 이를 격리하고 중단할 수 있으며, 그 시간이 밀리초 단위라고 발표했다.

04. 소프트웨어 실행 통제와 하드웨어 감시의 결합

두 구성요소의 관계는 정책을 적용하는 위치로 구분할 수 있다. OpenShell은 에이전트의 실제 실행환경에서 파일과 프로세스, 네트워크 및 서비스 접근을 제한한다. Sentry는 별도의 DPU에서 감시하고, 소프트웨어 경계를 벗어나는 행동에 대해 추가적인 대응을 수행하도록 설계됐다.

이러한 설계는 AI 에이전트가 따르는 자연어 지시와 별개로 실행 권한을 설정한다는 점에서 기존 애플리케이션 내부의 지침이나 응답 필터와 구분된다. 다만 접근이 허용된 자원에서 발생하는 잘못된 작업, 부정확한 결과, 과도하게 허용된 정책으로 인한 위험까지 자동으로 해결하는 것은 아니다.

05. 공개 소프트웨어와 참조 시스템의 제공 범위

NVIDIA는 Open Agent Safety Platform 관련 소프트웨어와 OpenShell을 개발자 리소스 및 GitHub를 통해 제공한다고 밝혔다. OpenShell은 공개 저장소를 통해 코드를 확인할 수 있으며, NVIDIA는 자사 Vera CPU뿐 아니라 Arm·Intel 등 제3자 컴퓨팅 플랫폼으로 확장할 수 있는 공개 소프트웨어라고 설명했다.

반면 Sentry는 BlueField-4 DPU에서 동작하도록 제시된 참조 시스템 설계다. 따라서 공개 소프트웨어인 OpenShell의 사용 가능 범위와 Sentry의 하드웨어 기반 기능을 동일한 제공 형태로 해석해서는 안 된다. 실제 구축에는 지원되는 하드웨어와 소프트웨어 구성, 운영 환경을 별도로 확인해야 한다.

협력 현황도 함께 공개됐다. NVIDIA는 100곳이 넘는 조직이 관련 기술을 활용하거나 협력하고 있다고 밝혔다. 발표문에는 소프트웨어, 보안, 제조, 금융, 로보틱스 및 인프라 분야의 조직이 포함돼 있다. 다만 발표문에 이름이 등장한다는 사실만으로 모든 조직이 OpenShell과 Sentry를 모두 실제 운영환경에 배포했다고 해석할 수는 없다.

NVIDIA는 구체적인 사례로 SpaceXAI가 Cursor 코딩 에이전트와 Grok 모델에 플랫폼을 사용하고 있다고 설명했으며, Scale AI는 자사 에이전트 인프라 계층에 관련 기술을 통합하는 작업을 진행 중이라고 밝혔다. 두 사례 역시 발표문에 명시된 적용 상태를 구분해 읽을 필요가 있다.

06. 적용 범위와 확인해야 할 한계

Open Agent Safety Platform은 AI 에이전트가 외부 시스템에서 작업할 때 필요한 접근 경계와 감시 계층을 제공하는 데 초점을 맞춘다. 공개된 자료에서 확인되는 기능은 실행환경의 격리, 정책에 따른 자원 접근 통제, 행동 기록 및 별도 하드웨어 감시 설계다.

이 기능들은 에이전트가 수행한 작업의 정확성을 보증하거나, 허용된 권한 내에서 이루어진 모든 잘못된 행동을 탐지한다는 뜻은 아니다. 보안 수준은 실제 정책 구성과 운영 환경에 따라 달라질 수 있다. 또한 Sentry의 성능 및 효과에 관한 제조사 설명과 제3자가 재현한 독립 검증 결과는 구분해야 한다.