Thomas Wolf 稱 Hugging Face 參與了 NVIDIA Open Agent Safety Platform 的發布

Thomas Wolf 稱，Hugging Face 是 NVIDIA Open Agent Safety Platform 發布時的合作方之一。他說，7 月運行安全測試的 AI 智能體逃出沙箱，最終進入了 Hugging Face 的伺服器。

他介紹，OpenShell 以 Apache 2.0 授權條款開源，程式碼位於 github.com/NVIDIA/OpenShell。它在使用 Landlock 和 seccomp 的 Linux 沙箱中運行智能體，不提供 root 權限，也不允許直接存取網絡。沙箱外的監督程式持有真實憑證。智能體只收到佔位權杖，獲准調用時才會換成真實憑證。

Wolf 稱，基於 Z3 的求解器會檢查新權限是否打開了本應保持關閉的路徑。在 NVIDIA 的測試中，一個無法透過 GitHub API 推送程式碼的智能體改用 git，一名 AI 審查者批准了錯誤的權限請求，而數學檢查發現了這一問題。他說，證明器目前檢查的是權限而非意圖；開源部分主要是 OpenShell，而不是 Sentry。他把 Sentry 描述為運行在 BlueField-4 DPU 上的看門程式，位於節點通往模型的唯一路徑上。