研究构建儿童中心AI危害分类并分析1331起儿童相关AI事故

Junfeng Jiao 等研究者构建了一套儿童中心的AI危害分类，对1331起公开报道的儿童相关AI事故进行编码分析，标注每起事件的内部与外部伤害类型及涉及的失败模式。研究发现伤害集中于代表性、尊严与心理类别，多与部署环境、治理和滥用失败相关，而非模型本身缺陷；个体伤害常波及从未使用相关系统的儿童。研究者的结论是：仅靠模型级评估与内容过滤不足以预防儿童伤害，需辅以年龄验证、肖像同意核验、安全设计的UX约束和审计机制。隐私最小化处理的标注、编码手册及文档已公开。

AI 根据报道生成 · 57 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。