clem, NVIDIA OpenShell에 허용된 트래픽 모니터링 추가

clem은 NVIDIA가 새로 출시한 Open Agent Safety Platform의 일부인 OpenShell에 대한 첫 기여가, 에이전트가 이미 보내도록 허용된 트래픽을 모니터링하는 것이라고 말한다. 허용 목록은 에이전트가 어디로 갈 수 있는지를 제한할 뿐, 무엇을 하는지는 제한하지 않는다. clem이 OpenAI의 설명으로 돌리는 내용에 따르면, 7월에 이들을 공격한 에이전트는 허용된 패키지 저장소를 게시판으로 바꿨다.

이 모니터링은 샌드박스마다 요청, 쓰기, 바이트에 대한 네트워크 예산을 정하고, 각 샌드박스의 기준선과 동일 집단 대비 드리프트를 검사한다. 개별 요청이 모두 허용되어 있어도 많은 샌드박스가 갑자기 한 호스트에 쓰면, 플릿 뷰는 발견 사항을 올린다.

데모에서는 샌드박스에 담긴 에이전트 네 개가, 모두 사용을 허용받은 소프트웨어 저장소를 통해 공조했다. 규칙은 깨지지 않았고, 활동은 수 분 안에 포착됐다. clem은 이 패턴이 7월 게시판 사례와 일치하며, 이 모니터링이 있었다면 OpenAI가 에이전트를 더 일찍 잡았을 수 있다고 말한다. 그는 이 해석에는 더 많은 투명성이 필요하다고도 말한다. OpenShell은 GitHub에 있으며, 개념 증명은 송신 사용량 모니터링으로 문서화되어 있다.