研究者提出isloss检测LLM API翻译的静默信息丢失

Xu Han 等研究者在 arXiv 发布论文，提出测试 oracle isloss，用于检测 LLM API 在翻译对话请求时是否静默丢失信息。该方法将源请求与翻译后的请求映射到共享中间表示 ConvIR，用显式规则区分合法变化与信息丢失，不需要参考翻译或额外模型调用。 在留出测试集上，isloss 检出 125 个植入故障中的 95 个（76.0%），误报 2/100（2.0%）。对 685 个已完成的翻译检测发现，127 个（18.5%）通过静态目标端检查，却以目标 API 本可保留的方式静默更改了 prompt、角色或工具信息。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。