엔비디아는 2026년 9월 28일 AI 에이전트를 테스트부터 배포까지 통제하는 Open Agent Safety Platform을 발표했다. 구성 요소는 오픈소스 소프트웨어 OpenShell과 참조 시스템 설계 Sentry다.
회사 설명에 따르면 OpenShell은 에이전트의 실행 경계를 설정하고 행동을 추적하며 정책을 적용한다. 엔비디아 Vera CPU에서 동작하도록 설계됐고, 오픈소스 특성을 활용해 Arm·Intel 등 다른 컴퓨팅 플랫폼으로 확장할 수 있다고 밝혔다.
Sentry는 에이전트의 주 실행 영역 밖에서 작동하는 별도 감시 장치를 더한다. 엔비디아는 BlueField-4 DPU가 행동을 계속 살피고, 소프트웨어 경계를 벗어나려는 에이전트를 격리하도록 설계했다고 설명했다.
이번 발표에서 구분할 점은 실행 경계를 적용하는 소프트웨어와 그 경계 밖에서 독립적으로 감시하는 하드웨어다. 둘을 함께 제시한 것이 플랫폼 설명의 핵심이며, 특정 모델의 성능 향상만을 발표한 내용과는 범위가 다르다.
격리 속도와 보호 기능은 회사가 발표한 설명이다. 이 글은 별도의 현장 보안 실험이나 성능 검증 결과를 제공하지 않는다. 또한 모든 제품·기능의 제공 시점이 확정된 약속은 아니라는 회사의 안내를 함께 고려해야 한다.
AI 보안을 평가할 때 제품 발표와 위험 관리 기준은 다른 역할을 한다. 미국 국립표준기술연구소 NIST는 AI 위험 관리 프레임워크를 자발적으로 사용하는 자료로 소개하며, 설계와 개발뿐 아니라 사용과 평가 단계에서도 신뢰성을 고려하도록 돕는다고 설명한다. 이 기준이 특정 엔비디아 제품을 인증했다는 뜻은 아니다. 기업이 기능을 발표했는지와 외부 기준에 따라 어떤 위험을 평가했는지를 구분해 읽어야 이번 소식의 범위를 과장하지 않을 수 있다.
NIST는 생성형 AI에 특화된 위험을 식별하고 조직의 목적에 맞는 대응을 검토하도록 별도 프로파일도 제공한다. 이를 이번 발표를 읽는 배경으로 삼으면, 에이전트가 무슨 일을 할 수 있는지와 그 일을 허용할 조건이 무엇인지가 서로 다른 질문임을 알 수 있다. 이메일 발송이나 데이터 접근처럼 외부 시스템에 영향을 주는 기능은 실행 권한의 범위도 함께 살펴야 한다. 여기서 제시한 예시는 기능의 성능을 확인한 실험 결과가 아니라 독자의 이해를 위한 사용 상황이다.
기업이 도입을 검토한다면 편집팀은 먼저 어떤 데이터와 도구에 에이전트가 접근하는지, 누가 정책을 정하는지, 중지 이후 어떤 기록이 남는지를 확인할 것을 제안한다. 이는 이번 회사 설명을 운영 관점에서 읽기 위한 질문이다. 소프트웨어 경계를 설정하는 기능과 별도 감시 장치를 두는 설계가 소개됐다는 사실만으로 조직의 모든 보안 요구가 충족됐다고 판단할 수는 없다. 실제 적용 환경의 권한과 업무 절차를 함께 검토해야 발표 내용의 실질적인 의미를 판단할 수 있다.
또한 오픈소스라는 말과 특정 기능을 이미 내 시스템에서 쓸 수 있다는 말도 구분해야 한다. 공개된 코드가 있다면 지원 환경과 문서, 변경 기록을 확인하고, 하드웨어 기반 기능이라면 필요한 장비와 연동 조건을 별도로 살펴야 한다. 이 기사는 그런 환경에서 직접 설치하거나 공격을 재현한 검증 보고서가 아니다. 회사의 제공 안내와 독자가 확인해야 할 조건을 분리해 전하며, 실제 성능 수치가 추가되더라도 시험의 설정과 측정 주체를 함께 보아야 한다는 점을 강조한다.
일하는 독자에게 이 뉴스는 AI가 더 많은 작업을 맡을 때 통제 장치도 함께 설계해야 한다는 질문을 남긴다. 모델의 답변 품질만 보는 평가에 더해 실행 기록과 승인 권한을 확인하는 방법을 생각해 볼 수 있다. 다만 이는 편집팀의 운영 관점 해석이며 이번 발표가 모든 업무 자동화의 안전성을 보증한 것은 아니다. 앞으로 독립 평가나 실제 도입 자료가 공개되면 제품 설명과 검증 결과의 차이를 비교하는 후속 보도가 필요하다. 현재는 발표된 구성과 회사가 설명한 역할을 기준으로 읽어야 한다.