arXiv 论文揭示 Office 文档抽取偏差可误导大语言模型，并提出 Prism 防御
When File Ingestion Misleads Language Models: Measuring and Mitigating Divergences in Office Documents
AI 导读
arXiv 论文（arXiv:2611.05806）研究 LLM 读取 Office 文档时的抽取偏差：分析常用抽取器，发现 19 类 OOXML 通道会读取人眼看不到的内容、12 类会丢失人可见的内容，且常忽略显示格式和阅读顺序。
推荐理由
论文量化了 Office 文档抽取偏差对大语言模型的攻击面，并给出可复用的防御思路，适合关注文档处理安全的读者。
正文 · AI 翻译
摘要：如今，办公文档常被上传到大语言模型（LLM）进行处理。然而，LLM 看到的并不总是人类所看到的，因为它通常读取的是从文档底层 Office Open XML（OOXML）文件中提取文本的提取器所产生的文本。由于实现方式不同，提取器读取的 OOXML 部分及其解释方式各不相同，因此其输出可能与 Office 应用程序显示的内容不同。例如，攻击者只需轻微移动幻灯片上文本框的位置，就可以改变模型读取它们的顺序，而幻灯片外观保持不变。我们证明这种提取分歧是 LLM 应用的一个攻击面。
在本工作中，我们首先通过分析 LLM 应用所依赖的广泛使用的提取器，来测量攻击者可利用的内容。通过将静态源代码分析与动态分析相结合，我们识别出 19 个 OOXML 通道，其中提取器会读取人类看不到的内容；以及 12 个通道，其中提取器会丢弃人类可以看到的内容。我们还发现，广泛使用的提取器会忽略显示格式和阅读顺序，因此即使是可见内容也会以不同的形式到达模型。基于这些发现，我们构造了五种攻击，使模型对文档的解读不同于人类审阅者，而无需注入任何指令。我们在四个主流聊天助手（ChatGPT、Claude、Gemini 和 Microsoft 365 Copilot）和四个编程智能体（Codex、Claude Code、Antigravity 和 GitHub Copilot CLI）上测试了这些攻击，每一个都至少被一种攻击所误导。最后，我们提出了 Prism，一种轻量级防御方案，它在将文本传给模型之前，根据 OOXML 规范重建人类视角。Prism 还能泛化到未见过的攻击载荷。
| 学科分类： | 密码学与安全 (cs.CR)；人工智能 (cs.AI) |
| 引用格式： | arXiv:2611.05806 [cs.CR] |
| （本版本的格式为 arXiv:2611.05806v1 [cs.CR]） | |
| https://doi.org/10.48550/arXiv.2611.05806 arXiv-issued DOI 经由 DataCite（注册中） |
提交历史
来自：Penghui Li [查看邮件]
[v1]
2026年11月4日 星期三 01:32:31 UTC（244 KB）
来源：arXiv cs.AI · arxiv.org