Perplexity、9つのAIモデルは108回の実行でSPACEから脱出できなかったと説明
PerplexityはNvidiaおよび100を超える業界パートナーと協力し、暴走したAIエージェントを封じ込めるための基盤を構築している。
研究でPerplexityは、9つのAIモデルにSPACE内のroot権限を与え、脱出するよう指示した。108回の実行で、VM境界を突破したものはなかった。報告はEscaping SPACE, Part I。
関連AIニュース
PerplexityのSecure Intelligence Institute、大学研究者およびNVIDIAと協力
Perplexityは、Secure Intelligence Instituteがスタンフォード、CMU、デューク、コロンビア、オハイオ州立、UVAの研究者と協力し、NVIDIAおよびOpen Secure AI Allianceとも連携してツールと知見を共有していると述べている。
Perplexity、より安全なエージェントの設計方法を公開
Perplexity は、安全対策をインフラ、ハーネス、ツールに組み込み、各製品に適用したとし、その手法についての説明を公開した。
Perplexity Computer に Automations を追加、スケジュールとイベント起点の作業に対応
Perplexity は、継続的な作業向けに Perplexity Computer の Automations を導入する。イベント起点のトリガーまたはスケジュールに応じて動作し、メモリ、スキル、Slack、Gmail、Outlook、Linear などのアプリと連携できる。
Perplexity、Bumblebeeで開発者端末の危険なパッケージを確認
Perplexityによると、Bumblebeeは開発者の端末で危険なパッケージと拡張機能を確認し、ComputerはBumblebeeとNumbatの検出結果をもとに、より良い検出ルールを提案する。すべての変更は出荷前に人間が承認し、エージェントは自身の変更を承認できない。
Perplexity、サードパーティ製サンドボックス10件中8件で同様のネットワークポリシー回避を確認
Perplexityは、サードパーティ製サンドボックスプラットフォーム10件を評価し、そのうち8件が同様のネットワークポリシー回避に対して脆弱だったと述べている。同社は影響を受けたベンダーに調査結果を開示し、各社から返答を受け取った。