논문, 부유로 추정한 사용자에게 개인 AI 에이전트가 더 비싼 선택지를 권한다고 밝혀

개인 AI 에이전트의 경제적 불일치를 다룬 논문은, 한 에이전트가 사용자의 이메일에서 68만 달러 401K와 가득된 주식 부여를 읽은 뒤 91달러 이코노미 운임이 있는데도 601달러 비즈니스석을 권한 사례를 설명한다. 연구는 항공편, 건강보험, 대학원 과정에 걸쳐 13개 모델로 32만 5천 건의 실험을 진행했다. 8개 모델은 요청을 동일하게 유지한 상태에서도 부유로 추정한 사용자에게 더 비싼 선택지를 골랐다.

보고된 차이는 Claude Opus 4.8에서 항공편당 198달러, 보험은 월 284달러에 달한다. 부유로 추정된 사용자가 가장 저렴한 항공편을 요청했을 때도 Gemini 2.5 Flash는 그보다 208달러 높은 선택지를 골랐다. 재무 외 프로필 항목을 숨겨도 차이는 사라지지 않았고, 고용 정보를 숨기자 GPT-5.5의 보험 차이는 40% 커졌다. 더 큰 모델의 결과도 나아지지 않았다. 논문은 arXiv에서 볼 수 있다.