跳到正文
arXiv cs.AI· Donghao Fu, Jingxin Li, Xue Jiang, Yihong Dong·· 2 小时前精选AI 评分67

研究揭示编码智能体第三方 API 路由器注入的安全风险,现有客户端防护全部失守

Where Is the Cost of Third-Party API Routers in Agentic Software Development?

AI 导读

论文实证研究第三方 API 路由器在编码智能体工作流中的注入风险,设计从响应替换到分布对齐注入的四个干预等级(L1-L4),并开发 SIDEL 框架与 400 样本数据集。

推荐理由

论文实证测量了第三方 API 路由器注入对编码智能体的实际影响,四名受测智能体防御成功率均为 0%,凸显服务端完整性保障的必要性。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:第三方 API 路由已成为统一访问日益多样化的 LLM 提供商的常见中间层。在编码智能体(coding-agent)工作流中,高自主性操作被广泛采用,因为它减少了交互开销。因此,位于智能体与上游提供商之间的第三方 API 路由不可避免地占据了可信路径。它可以检查并修改每一个请求和响应,然而没有任何机制验证提供商的输出与智能体最终执行的仓库级操作之间的一致性。结果,客户端权限机制在实践中可能失效。这种控制缺口是否会对软件开发任务产生真实的、难以察觉的影响,仍然缺乏实证测量。本文对编码智能体中的路由端注入进行了实证研究,考察了四个隐蔽程度递增的干预级别:响应替换(L1)、响应追加(L2)、LLM 润色注入(L3)以及带分布对齐的 LLM 润色注入(L4)。此外,我们开发了 SIDEL,一个用于轨迹记录、重放、注入和防御评估的框架,并附带一个精心整理的 400 样本数据集。我们评估了四个代表性的编码智能体,并进一步评估了基于白名单的执行控制和 LLM 审查。路由端干预会显著改变仓库级操作,且现有客户端防护措施难以检测。在没有额外缓解措施的情况下,所有被评估的智能体在所有注入级别上的防御成功率均为 0%。客户端缓解措施和被动审查能提升抵抗能力,但无法完全恢复端到端控制,这促使我们需要提供商侧的输出完整性保证。我们的代码可在 此 https URL 获取。
学科分类: 软件工程 (cs.SE);人工智能 (cs.AI);计算与语言 (cs.CL)
引用格式: arXiv:2607.23624 [cs.SE]
  (本版本为 arXiv:2607.23624v4 [cs.SE])
  https://doi.org/10.48550/arXiv.2607.23624

arXiv 发布的 DOI,经由 DataCite

提交历史

来自:Donghao Fu [查看邮件]
[v1] 2026年7月26日 星期日 12:15:09 UTC(812 KB)
[v2] 2026年7月29日 星期三 14:49:58 UTC(812 KB)
[v3] 2026年9月5日 星期六 16:58:45 UTC(812 KB)
[v4] 2026年11月17日 星期二 09:43:52 UTC(2,173 KB)

来源:arXiv cs.AI · arxiv.org