研究称14个开源模型共享道德评估回路
热点事件持续更新
研究称14个开源模型共享道德评估回路
1 篇报道1 个报道来源46 分钟前更新
先了解这件事
AI 综述
Davide Liga 等研究者在 arXiv 发布论文,用 227 组经五名标注者验证的最小对短语,测试 Llama、Gemma、Qwen 共 14 个开源权重模型(1B 到 14B),分析语言模型道德判断的可解释性机制。 论文称,在每个模型中,改变道德答案的注意力头都属于一个评估回路,模型用它处理所有被测试的规范性判断;而稀疏自编码器(SAE)特征主要对 "morally" 一词作出响应。 研究者公开了对短语、评分、代码、训练的 SAE 字典和结果文件。
AI 根据报道生成 · 9 分钟前更新
最新进展11月18日 13:00
解析语言模型的道德回路与道德特征:来自 14 个模型的证据报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- arXiv cs.AI解析语言模型的道德回路与道德特征:来自 14 个模型的证据
一项可解释性研究用 227 组经五名标注者验证的最小对短语,测试 Llama、Gemma、Qwen 共 14 个开源权重模型(1B 到 14B)。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。