发布 ReA-Bench 负责任智能体审计基准

Zipeng Ye 等在 arXiv 发布论文，提出诊断智能体行为审计能力的基准 ReA-Bench，将审计挑战分为六个层级，包括内部安全知识、轨迹内矛盾、长上下文证据检索、来源与推理验证、间接引导和缺失信息。 基准包含与任务一致但貌似有风险的良性案例，并提供成对轨迹版本，测试审计者在轨迹缩短或补全缺失信息后能否更可靠地识别相同风险。据论文称，样本大多来自真实生产轨迹，经人工筛选改编以保留执行中可能出现的真实任务与风险。

AI 根据报道生成 · 28 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。