DeoGen:自动生成道义推理基准,前沿模型弃权能力弱
热点事件持续更新
DeoGen:自动生成道义推理基准,前沿模型弃权能力弱
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Sam Kouteili 等人在 arXiv 论文中提出 DeoGen,一个可扩展、可参数化的道义推理基准自动生成器,并发布了前沿模型的评测结果。 DeoGen 将策略规则自动形式化为一阶逻辑并构建决策树,每条路径生成一条基准条目:叶子路径对应判定题,非叶子路径测试模型在信息不足时的弃权能力。 评测显示,前沿模型在可判定条目上正确率达 89-92%,但在信息不足的条目上仅 22-40% 正确,即使提示词明确要求弃权。
AI 根据报道生成 · 1 小时前更新
最新进展10月31日 12:00
DeoGen:面向策略推理的自动基准生成方法报道时间线
沿着报道,了解事件的不同侧面。
10月31日
- arXiv cs.AIDeoGen:面向策略推理的自动基准生成方法
arXiv 论文提出 DeoGen,一个可扩展、可参数化的道义推理(deontic reasoning)自动基准生成器。它将策略规则自动形式化为一阶逻辑并构建决策树,树中每条路径生成一条基准条目:叶子路径对应判定,非叶子路径测试模型在信息不足时的弃权能力。评估显示前沿模型正确判定率为 89-92%,但在信息不足的条目上仅 22-40% 正确,即使提示词明确要求弃权。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。