Perplexity, 더 안전한 에이전트를 설계하는 방법을 공개
Perplexity는 에이전트 거버넌스가 엔지니어링 문제라고 밝혔다. 안전장치를 인프라, 하네스, 도구에 넣고 제품 전반에서 운용하고 있다고 한다.
해당 설명은 더 안전한 에이전트를 어떻게 설계하는가로 공개됐다.
관련 AI 뉴스
Perplexity, AI 모델 9개가 108회 실행에서 SPACE를 탈출하지 못했다고 밝혀
Perplexity는 Nvidia 및 100곳이 넘는 업계 파트너와 함께 통제를 벗어난 AI 에이전트를 가두기 위한 인프라를 구축하고 있다. SPACE 연구에서 root 권한을 받은 모델 9개는 108회 실행 동안 VM 경계를 넘지 못했다.
Perplexity Computer에 Automations 추가, 일정 및 이벤트 기반 작업 지원
Perplexity가 지속적인 작업을 위해 Perplexity Computer에 Automations를 도입한다. 이벤트 기반 트리거 또는 일정에 따라 동작하며, 메모리, 스킬, Slack, Gmail, Outlook, Linear 등의 앱과 함께 사용할 수 있다.
Perplexity의 Secure Intelligence Institute, 대학 연구자 및 NVIDIA와 협력
Perplexity는 Secure Intelligence Institute가 스탠퍼드, CMU, 듀크, 컬럼비아, 오하이오 주립, UVA의 연구자와 협력하고 있으며, NVIDIA 및 Open Secure AI Alliance와도 협력해 도구와 연구 결과를 공유한다고 밝혔다.
Perplexity, Bumblebee로 개발자 기기의 위험 패키지 점검
Perplexity에 따르면 Bumblebee는 개발자 기기에서 위험한 패키지와 확장 기능을 점검하고, Computer는 Bumblebee와 Numbat의 발견 내용을 바탕으로 더 나은 탐지 규칙을 제안한다. 모든 변경은 배포 전에 사람이 승인하며, 에이전트는 자신의 변경을 승인할 수 없다.
Perplexity, 서드파티 샌드박스 10곳 중 8곳에서 유사한 네트워크 정책 우회 확인
Perplexity는 서드파티 샌드박스 플랫폼 10곳을 평가한 결과 8곳이 유사한 네트워크 정책 우회에 취약했다고 밝혔다. 영향을 받은 업체에 조사 결과를 공개했고, 각 업체로부터 응답을 받았다.