arXiv论文提出CIEG框架应对医疗智能体证据劫持
热点事件持续更新
arXiv论文提出CIEG框架应对医疗智能体证据劫持
1 篇报道1 个报道来源46 分钟前更新
先了解这件事
AI 综述
Runxun Zhang等人在arXiv(2611.22169)发表论文,指出工具增强医疗智能体存在“证据劫持”问题:医疗工具静默失效后,冻结的推理器无法忽略进入上下文的错误工具输出,导致原本答对的案例被翻转为错误。 论文提出CIEG(上下文无关证据治理)框架,将“什么算证据”的判定与负责回答的推理器分离,在工具输出获取后逐条裁定是否可作为证据进入,作者称这是首个此类医疗智能体框架。 作者称该框架无需任何训练,并称其在同规模模型中准确率最高。这些为论文中作者的说法,尚属论文自述结果。
AI 根据报道生成 · 25 分钟前更新
最新进展11月18日 13:00
CIEG:面向工具增强医疗智能体的证据治理框架报道时间线
沿着报道,了解事件的不同侧面。
11月18日
- arXiv cs.AICIEG:面向工具增强医疗智能体的证据治理框架
一篇 arXiv 论文提出医疗工具增强智能体会因“证据劫持”(evidence hijacking)出错:医疗工具静默失效,冻结的推理器无法忽略进入上下文的错误工具输出,导致原本答对的案例被翻转为错误。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。