DTap红队报告Jev 1.13直接滥用ASR为70.1%
Zhaorun Chen称,在DTap上对Jev 1.13进行红队测试发现,直接滥用的攻击成功率为70.1%,间接提示注入为43.5%。他表示,用Jev对其自身工具调用做门控降低了该成功率,同时保留了大部分效用;TypeSafe AI质疑Jev是否失灵,并称其是为可组合性而构建。
Zhaorun Chen称,在DTap上对Jev 1.13进行红队测试发现,直接滥用的攻击成功率为70.1%,间接提示注入为43.5%。他表示,用Jev对其自身工具调用做门控降低了该成功率,同时保留了大部分效用;TypeSafe AI质疑Jev是否失灵,并称其是为可组合性而构建。