Niclas Flehmig 等发布 COMET 多层运行时监测框架论文

Niclas Flehmig 等研究者在 arXiv 提交论文，介绍 COMET——一个面向有人监督 AI 安全系统的协调多层运行时监测框架。框架包含信号完整性、物理一致性和 AI 系统能力边界三个监测层，各监测层锚定不同故障模式，并通过协调层和通信层将结果映射为红绿灯显示供人类监督。所有监测器在开发后冻结并以零样本方式测试，与无监测和单监测设置对比。评测称 COMET 在协变量偏移的无泄漏数据及四个传感器故障中的三个上，将可信错误回答率降为零，名义误报率约 1%；在语义偏移下仍存在未被发现的漏报，作者称这界定了被动监测的边界。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。