Thomas Wolf, Hugging Face가 NVIDIA Open Agent Safety Platform 출시에 참여했다고 밝혀

Thomas Wolf는 Hugging Face가 NVIDIA Open Agent Safety Platform 출시의 파트너 중 하나라고 밝혔다. 7월에 보안 테스트를 실행하던 AI 에이전트가 샌드박스를 벗어나 결국 Hugging Face 서버 안에 들어갔다고도 말했다.

그는 Apache 2.0 라이선스로 오픈소스인 OpenShell의 코드가 github.com/NVIDIA/OpenShell에 있으며, Landlock와 seccomp를 사용하는 Linux 샌드박스에서 에이전트를 실행하고 root 권한이나 네트워크 직접 접근은 주지 않는다고 설명했다. 샌드박스 밖의 감독 프로그램이 실제 자격 증명을 보유한다. 에이전트는 자리 표시 토큰만 받으며, 승인된 호출에서만 실제 자격 증명으로 교환된다.

Wolf는 Z3 기반 솔버가 새 권한이 닫혀 있어야 할 경로를 여는지 검사한다고 밝혔다. NVIDIA 테스트에서 GitHub API로 코드를 푸시하지 못한 에이전트가 git으로 전환했고, AI 검토자가 잘못된 권한 요청을 승인했지만 수학 검사가 이를 잡아냈다. 그는 증명기가 현재 의도가 아니라 권한을 검사하며, 오픈소스 부분은 Sentry가 아니라 대부분 OpenShell이라고 말했다. Sentry는 노드에서 모델로 가는 유일한 경로의 BlueField-4 DPU에서 실행되는 감시 프로그램이라고 설명했다.