麻省理工等机构最近发布的 HugAgent 研究，给”让 AI 扮演某个人”这件事划了一条比较清晰的边界。实验覆盖 54 名参与者、1742 个评测项，跑了 GPT、Claude、Gemini、DeepSeek 等主流模型，核心结论是：AI 学会了某人在已知情境下的偏好之后，换到从未见过的新情境，预测准确性会明显下滑。该论文已入选 EMNLP 2026 Main Oral。
这个结论本身不令人意外，但它让一类正在流行的用法需要重新估算上限。
合成受访者用的是哪种”准确”
想用 AI 模拟用户反馈的团队，通常有两种诉求：一种是在已有行为数据的情境里做预测（比如根据历史偏好预测对新产品的评分），另一种是在没有数据的全新情境里问”这类用户大概会怎么想”。
HugAgent 的实验打击的主要是第二种。第一种可以理解成”拟合”，数字分身做的是内插；第二种要求外推，跨情境泛化。两者的失败模式不同。在内插任务里，AI 用的信息越多，偏差越小；在外推任务里，信息量和准确性之间的关系就弱得多，模型会用自己对人类行为的通用假设来填空，而这个填空结果和具体个体的实际反应未必吻合。
我的判断是：如果你正在用 AI 合成受访者去测试一个现有用户群在已知场景里的偏好，这条技术路线还有一定参考价值；但如果你在用它预测这批用户遇到全新情境时的反应，HugAgent 的结论说明你在用跨情境外推，误差来源已经超出了”学到的个人档案”本身，应当对结论格外保守。
个性化 Agent 面临同一个问题
个性化 Agent 的很多设计，依赖一个隐含前提：只要把用户的历史行为喂给模型，它就能代表这个用户做出合理决策。这在任务范围有限、用户行为稳定的情形下还说得通。但用户遇到的事情大部分是新情境，而且往往越重要的决策越陌生，比如第一次换工作、第一次面对某类医疗选择。这恰好是跨情境泛化最不可靠的地方。
这不是说个性化 Agent 没有用，而是说它的可信范围比很多产品演示暗示的要窄。一个合理的验证办法是：取一批用户已经做过决策的历史场景，隐藏决策结果，让 Agent 预测，再对比真实结果。如果在已知情境范围内的准确率就不高，跨情境的预测就更难有说服力。反过来说，如果在已知情境里已经有不错的一致性，再谨慎地扩展到相邻情境，是比直接声称”理解这个用户”更诚实的表述。
什么条件下这条路线还值得继续
HugAgent 的结论并不是否定整个方向，而是在说边界条件。以下几种情形，跨情境失准的影响相对可控：
情境变化幅度小，新情境和训练情境的差异在同一主题领域内；任务对精度要求不高，结果只是参考而非直接执行；用户本身有高度稳定的行为模式，个体差异远低于人群均值。
如果你的使用场景不满足这几条，我更建议在 Agent 输出旁边保留一个”这是基于你在 X 类情境里的历史偏好做出的推断”的说明，而不是让预测以第一人称出现，仿佛就是用户本人会做的选择。透明程度高一点，用户在真正重要的决策上就不会把 Agent 的推断当作自己真实意图的镜像。
参考资料
完整版日报请看 爱窝啦 AI 日报