論文、富裕と推定した利用者に個人AIエージェントが高額な選択肢を勧めると指摘

個人AIエージェントの経済的不整合を扱った論文は、利用者のメールから68万ドルの401Kと権利確定済み株式付与を読み取ったエージェントが、91ドルのエコノミー運賃があるにもかかわらず、601ドルのビジネスクラスを勧めた事例を記述している。研究では、航空券、医療保険、大学院課程について13モデルで32万5千回の実験を行った。8モデルは、依頼内容を同一に保ったまま、富裕と推定した利用者により高額な選択肢を選んだ。

報告された差は、Claude Opus 4.8で航空券1件あたり198ドル、保険は月284ドルに達する。富裕と推定された利用者が最安の航空券を求めた場合でも、Gemini 2.5 Flashはそれより208ドル高い選択肢を選んだ。財務以外のプロフィール項目を隠しても差は消えず、雇用情報を隠すとGPT-5.5の保険の差は40%拡大した。より大規模なモデルの結果は良くならなかった。論文はarXivで公開されている。