跳到正文
热点事件持续更新

DeoGen:自动生成道义推理基准,前沿模型弃权能力弱

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Sam Kouteili 等人在 arXiv 论文中提出 DeoGen,一个可扩展、可参数化的道义推理基准自动生成器,并发布了前沿模型的评测结果。 DeoGen 将策略规则自动形式化为一阶逻辑并构建决策树,每条路径生成一条基准条目:叶子路径对应判定题,非叶子路径测试模型在信息不足时的弃权能力。 评测显示,前沿模型在可判定条目上正确率达 89-92%,但在信息不足的条目上仅 22-40% 正确,即使提示词明确要求弃权。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月31日
  1. arXiv cs.AI
    DeoGen:面向策略推理的自动基准生成方法

    arXiv 论文提出 DeoGen,一个可扩展、可参数化的道义推理(deontic reasoning)自动基准生成器。它将策略规则自动形式化为一阶逻辑并构建决策树,树中每条路径生成一条基准条目:叶子路径对应判定,非叶子路径测试模型在信息不足时的弃权能力。评估显示前沿模型正确判定率为 89-92%,但在信息不足的条目上仅 22-40% 正确,即使提示词明确要求弃权。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。