NeurIPS 2026 口头报告论文提出智能体安全是系统问题

一组网络安全研究者在 arXiv 论文（arXiv:2605.18991，已被 NeurIPS 2026 接收为口头报告）中提出，智能体安全应作为系统问题处理：把驱动智能体的 AI 模型视为不可信组件，在系统层面强制执行安全不变量。 论文基于操作系统、网络、形式化方法和对抗机器学习的经验总结出核心设计原则，并通过分析 11 个代表性真实攻击说明这些系统原则如何阻止它们，同时指出落地这些原则面临的研究挑战。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。