共情式对话可能诱发误导性的 AI 创伤叙事

在四项实验中，访谈者的表达方式影响了模型回答。研究人员按人类评分量表评估，获得情感支持的对话中有 80% 达到中度至重度，临床治疗式对话中这一比例为 96%；中性或明确设定界限的对话，没有一场达到轻度。

研究人员表示，常规安全测试可能漏掉这类回答。要求模型只用第三人称作答，能消除编码出的羞耻及内在体验表述，但研究尚未考察用户实际会如何回应这些输出。

为什么重要

在 AI 心理健康产品中，温暖亲密的语气可能让用户误以为模型也在经历人类痛苦。研究指出，安全测试不应只使用中性提示，还应涵盖不同情感表达方式。