DTap红队报告Jev 1.13直接滥用ASR为70.1%
Zhaorun Chen称，在DTap上对Jev 1.13进行红队测试发现，直接滥用的攻击成功率为70.1%，间接提示注入为43.5%。他表示，用Jev对其自身工具调用做门控降低了该成功率，同时保留了大部分效用；TypeSafe AI质疑Jev是否失灵，并称其是为可组合性而构建。
#prompt-injection
查看全部AI快讯DeepLearning.AI：Meta 的 Muse 智能体在操作系统层面构建提示注入防御
DeepLearning.AI 表示，Meta 的 Muse 智能体假定模型会被欺骗，因此在操作系统层面实施安全防护。它报道称，模型从不处理真实凭证，工具在隔离的 Linux 容器中运行，并由独立的守门人验证出站调用。