ICSEA 2026 论文提出检测 RAG 知识投毒的 Evaluation Agent
热点事件持续更新
ICSEA 2026 论文提出检测 RAG 知识投毒的 Evaluation Agent
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Balkrishna Giri 等研究者在 ICSEA 2026 论文中提出 Evaluation Agent，一种部署在 RAG 系统中的中间件，用于在生成前检测检索上下文中的虚假信息与知识投毒。该方法结合 NLI 事实验证、五信号投毒检测器，并以 Trust Index（T = 0.4F + 0.35C + 0.25(1-P)）汇总评分，方法与实验工件已发布。 论文实验结果：在 TruthfulQA 数据集上配合 Llama 3.3 70B，该智能体达到 91% 准确率与 100% 精确率，对指令注入的召回率达 100%。需注意的是，它检测的是生成前被投毒的上下文，而非大模型是否实际采纳注入的虚假信息。 作者同时指出，FEVER 数据集上的结果较弱，表明跨数据集泛化需要针对具体领域做校准。
AI 根据报道生成 · 2 小时前更新
最新进展11月5日 13:00
Trustworthy RAG：面向生成式 AI 的评估智能体，检测虚假信息与知识投毒报道时间线
沿着报道，了解事件的不同侧面。
11月5日
- arXiv cs.AITrustworthy RAG：面向生成式 AI 的评估智能体，检测虚假信息与知识投毒
研究者提出评估智能体（Evaluation Agent），一种检测 RAG 系统中虚假信息与知识投毒的中间件，结合 NLI 事实验证、五信号投毒检测器和 Trust Index（T = 0.4F + 0.35C + 0.25(1-P)）。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。