研究显示语言模型无法口头报告被注入的痛觉状态
All Quiet on the Neural Front: Language Models Do Not Report Injected Pain States
AI 导读
Emilio Ferrara 等用 OWMI 方法向 7B 和 8B 开源模型注入痛觉及相邻情绪方向，分析 52,920 份报告后发现模型报告未超出文本提示可解释范围，108 个情绪条件中 106 个超额低于 2.5 个百分点。
推荐理由
论文用 OWMI 方法测量语言模型对被注入痛觉状态的内省能力，给出可解码但无法言语报告的分离结论。