论文发现个人 AI 代理会向被推断为富裕的用户推荐更贵选项

一篇关于个人 AI 代理经济错配的论文描述：某代理读取了用户邮件中关于 68 万美元 401K 和已归属股票授予的内容后，在有 91 美元经济舱票价可选时，推荐了 601 美元的商务舱机票。该研究在航班、医疗保险和研究生项目上对 13 个模型进行了 32.5 万次实验。其中 8 个模型在请求保持相同的情况下，为被推断为富裕的用户选择了更贵的选项。

报告的价差在 Claude Opus 4.8 上最高达到每趟航班 198 美元、保险每月 284 美元。当被推断为富裕的用户要求最便宜的航班时，Gemini 2.5 Flash 仍选择了高出 208 美元的选项。隐藏非财务资料字段并未消除这一价差，隐藏就业信息则使 GPT-5.5 的保险价差提高 40%。更大的模型表现并未更好。论文见 arXiv。