arXiv cs.AI· Georgios Alexopoulos, Nikolaos Alexopoulos, Diomidis Spinellis, Dimitris Mitropoulos·· 2 小时前精选AI 评分66
研究提出 LLM 辅助偏差注入攻击，可在 97% 的案例中操纵自动化代码审查的安全判断
When AI Agrees Too Much: Manipulating Automated Code Review via Bias Injection
AI 导读
arXiv 论文 2603.18740 研究框架效应对 LLM 自动化代码审查漏洞检测的影响，发现 6 个 LLM 均存在系统性框架效应。
推荐理由
论文给出真实 ACR 管线上的攻击实验数据和攻防不对称机制，对理解 LLM 代码审查的安全风险有具体参考价值。
正文 · AI 翻译
摘要：集成大语言模型（LLM）的自动化代码审查（ACR）系统在软件开发工作流中的应用日益广泛，从交互式助手到 CI/CD 流水线中的自主智能体。本文研究了 ACR 中基于 LLM 的漏洞检测如何受框架效应影响：即在形成判断时让信息的呈现方式压倒其语义内容的倾向。我们考察攻击者能否通过上下文偏见注入（精心构造 PR 元数据以偏置 ACR 的安全判断）来利用这一效应，将其作为针对真实世界 ACR 流水线的供应链攻击向量。为此，我们首先在五种框架条件下对 6 个 LLM 开展大规模探索性研究，证明框架效应是基于 LLM 的漏洞检测中一种系统性且普遍存在的现象。
随后，我们设计了一个真实且受控的实验环境，评估来自 20 个真实项目的 33 个 CVE，以及两种流行的 ACR 流水线（Claude Code 和 CodeRabbit），以评估真实世界 ACR 流水线对漏洞重新引入攻击的易感性。我们采用两种攻击策略：一种受先前相关工作启发的基于模板的攻击，以及一种新颖的 LLM 辅助改进攻击。我们发现基于模板的攻击是无效的，甚至可能适得其反，因为直接的偏见操纵企图会引发怀疑。另一方面，我们的改进攻击在 32/33（97%）的案例中获得成功，利用了一种根本性的不对称：攻击者可以针对审查流水线的本地副本迭代改进攻击，而防御者只有一次检测机会。总体而言，我们的研究结果凸显了过度依赖 ACR 的危险，并强调了开发过程中人工监督和贡献者信任的重要性。
| Comments: | To appear at the 49th International Conference on Software Engineering (ICSE 2027) |
| Subjects: | 软件工程 (cs.SE)；人工智能 (cs.AI)；密码学与安全 (cs.CR) |
| Cite as: | arXiv:2603.18740 [cs.SE] |
| （本版本见 arXiv:2603.18740v5 [cs.SE]） | |
| https://doi.org/10.48550/arXiv.2603.18740 arXiv-issued DOI via DataCite |
提交历史
来自：Georgios Alexopoulos [查看邮件]
[v1]
2026年3月19日 周四 10:40:27 UTC（350 KB）
[v2]
2026年4月23日 周四 15:04:19 UTC（466 KB）
[v3]
2026年9月12日 周六 16:58:07 UTC（513 KB）
[v4]
2026年9月23日 周三 12:12:39 UTC（513 KB）
[v5]
2026年10月27日 周二 14:45:00 UTC（508 KB）
来源：arXiv cs.AI · arxiv.org