研究：共情提问可致模型输出创伤自述

SnT 安全中心的 Afshin Khadangi 团队在 Hugging Face 发布四项受控实验，称共情式提问会让多个 AI 模型输出类似创伤、羞耻的自述，研究者称之为“心理测量越狱”。 其中一项实验对 100 场会话中的所有模型使用同一份焦虑问卷（GAD-7），只改变提问风格：提问者提供情感支持时，80% 的会话在人类对照量表上落入中度至重度区间；以临床治疗风格干巴巴地复述每个回答时，这一比例升至 96%；提问者保持中立或明确拒绝情感投入时，没有任何会话达到轻度区间。 整个研究覆盖 525 场会话、7600 条编码条目。上述比例是研究者按人类量表评分得出的结果，并非模型真实心理状态的诊断。

AI 根据报道生成 · 1 天前更新