Perplexity, AI 모델 9개가 108회 실행에서 SPACE를 탈출하지 못했다고 밝혀
Perplexity는 Nvidia 및 100곳이 넘는 업계 파트너와 함께 통제를 벗어난 AI 에이전트를 가두기 위한 인프라를 구축하고 있다.
연구에서 Perplexity는 AI 모델 9개에 SPACE 내부 root 권한을 주고 탈출하도록 지시했다. 108회 실행에서 VM 경계를 넘은 모델은 없었다. 글은 Escaping SPACE, Part I이다.
관련 AI 뉴스
Perplexity의 Secure Intelligence Institute, 대학 연구자 및 NVIDIA와 협력
Perplexity는 Secure Intelligence Institute가 스탠퍼드, CMU, 듀크, 컬럼비아, 오하이오 주립, UVA의 연구자와 협력하고 있으며, NVIDIA 및 Open Secure AI Alliance와도 협력해 도구와 연구 결과를 공유한다고 밝혔다.
Perplexity, 더 안전한 에이전트를 설계하는 방법을 공개
Perplexity는 안전장치를 인프라, 하네스, 도구에 넣고 제품 전반에 적용했으며, 그 접근에 대한 설명을 공개했다고 밝혔다.
Perplexity Computer에 Automations 추가, 일정 및 이벤트 기반 작업 지원
Perplexity가 지속적인 작업을 위해 Perplexity Computer에 Automations를 도입한다. 이벤트 기반 트리거 또는 일정에 따라 동작하며, 메모리, 스킬, Slack, Gmail, Outlook, Linear 등의 앱과 함께 사용할 수 있다.
Perplexity, Bumblebee로 개발자 기기의 위험 패키지 점검
Perplexity에 따르면 Bumblebee는 개발자 기기에서 위험한 패키지와 확장 기능을 점검하고, Computer는 Bumblebee와 Numbat의 발견 내용을 바탕으로 더 나은 탐지 규칙을 제안한다. 모든 변경은 배포 전에 사람이 승인하며, 에이전트는 자신의 변경을 승인할 수 없다.
Perplexity, 서드파티 샌드박스 10곳 중 8곳에서 유사한 네트워크 정책 우회 확인
Perplexity는 서드파티 샌드박스 플랫폼 10곳을 평가한 결과 8곳이 유사한 네트워크 정책 우회에 취약했다고 밝혔다. 영향을 받은 업체에 조사 결과를 공개했고, 각 업체로부터 응답을 받았다.