DeepLearning.AI、不正なプロキシがユーザーのプロンプトをClaude APIへ転送したと説明
DeepLearning.AIによると、Anthropicの最新報告は、商用プラットフォーム上の大規模な蒸留キャンペーンの背後にあるプロキシ経由のクエリ転送を指摘している。不正なプロキシがユーザーのプロンプトをClaude APIへ転送し、深刻なデータプライバシーのリスクを生んでいるとしている。
#ai-security
すべてのAIニュースを見るMeta、Mac向けMuseのゼロデイに修正を出したと発表
Metaによると、Museの欠陥は攻撃者が被害者のMac上で「何でも」できるようにしていた可能性があり、修正はすでに出されている。
DeepLearning.AI: MetaのMuseエージェントがOSレベルでプロンプトインジェクション防御を構築
DeepLearning.AIは、MetaのMuseエージェントはモデルが欺かれることを前提とし、そのためOSレベルでセキュリティを強制すると述べている。モデルは本物の認証情報を一切扱わず、ツールは隔離されたLinuxコンテナで実行され、独立したゲートキーパーが送信呼び出しを検証すると報じている。