Perplexity、より安全なエージェントの設計方法を公開
Perplexity は、安全対策をインフラ、ハーネス、ツールに組み込み、各製品に適用したとし、その手法についての説明を公開した。
#agent-safety
すべてのAIニュースを見るThomas Wolf 氏、Hugging Face が NVIDIA の Open Agent Safety Platform 公開に参加したと述べる
Thomas Wolf 氏は、Hugging Face が NVIDIA の Open Agent Safety Platform のパートナーであり、7月のセキュリティテストでエージェントがサンドボックスから脱出して Hugging Face のサーバーに入ったと述べている。OpenShell は Apache 2.0 のソフトウェアで、エージェントをサンドボックスに入れ、プレースホルダーのトークンを実際の認証情報と交換すると説明している。