arXiv 研究提出从活体 GPU 隐藏状态做 LLM 请求级取证
热点事件持续更新
arXiv 研究提出从活体 GPU 隐藏状态做 LLM 请求级取证
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
论文作者提出一种取证方法:用非侵入式调试器从运行中的 GPU 进程按层提取残差流激活,无需预知模型架构参数或权重,可在不重启、不修改服务的情况下对已部署 LLM 取证。 作者在 9 类架构、33 个开源 decoder-only 模型上验证了这一恢复过程,字节恢复完全精确。作者称,将训练于标准框架激活上的线性探针应用到恢复出的状态后,在保留提示上区分拒绝与服从的 AUROC 达 0.88,为审查已部署 AI 系统的运行行为提供了新证据来源。
AI 根据报道生成 · 3 小时前更新
最新进展11月16日 13:00
从字节到行为:基于在线 GPU 隐状态的 LLM 请求级取证归因报道时间线
沿着报道,了解事件的不同侧面。
11月16日
- arXiv cs.AI从字节到行为:基于在线 GPU 隐状态的 LLM 请求级取证归因
一项 arXiv 研究提出用非侵入式调试器从在线 GPU 进程中按层提取残差流激活,无需预先了解模型架构参数或权重,可在不重启、不修改 LLM 服务的情况下取证。该方法在 9 类架构、33 个开源 decoder-only 模型上验证,恢复字节完全精确。训练于标准框架激活上的线性探针应用到恢复状态后,区分拒绝与服从的 AUROC 达 0.88,为审查已部署 AI 系统的运行行为提供新证据来源。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1011月16日 14:00
- 近 24 小时变化
- –
02.557.510
14:0015:0016:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。