跳到正文
热点事件持续更新

arXiv论文提出CIEG框架应对医疗智能体证据劫持

1 篇报道1 个报道来源46 分钟前更新

先了解这件事

AI 综述

Runxun Zhang等人在arXiv(2611.22169)发表论文,指出工具增强医疗智能体存在“证据劫持”问题:医疗工具静默失效后,冻结的推理器无法忽略进入上下文的错误工具输出,导致原本答对的案例被翻转为错误。 论文提出CIEG(上下文无关证据治理)框架,将“什么算证据”的判定与负责回答的推理器分离,在工具输出获取后逐条裁定是否可作为证据进入,作者称这是首个此类医疗智能体框架。 作者称该框架无需任何训练,并称其在同规模模型中准确率最高。这些为论文中作者的说法,尚属论文自述结果。

AI 根据报道生成 · 25 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月18日
  1. arXiv cs.AI
    CIEG:面向工具增强医疗智能体的证据治理框架

    一篇 arXiv 论文提出医疗工具增强智能体会因“证据劫持”(evidence hijacking)出错:医疗工具静默失效,冻结的推理器无法忽略进入上下文的错误工具输出,导致原本答对的案例被翻转为错误。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。