跳到正文
热点事件持续更新

OpenAI 发布打击儿童性虐待材料的新工具

2 篇报道2 个报道来源42 分钟前更新

先了解这件事

AI 综述

OpenAI 发布打击儿童性虐待材料(CSAM)的新工具,包括与 NCMEC 合作开发的图像分类器,可识别含 AI 生成在内的 CSAM 图片,并通过 API 免费向部分企业开放。OpenAI 称早期测试显示,该分类器在找到相同数量滥用图像的情况下误报减少 48%,被标记图像确为滥用图像的概率提升一倍。这些说法出自 OpenAI 的测试结果,尚未经第三方验证。

AI 根据报道生成 · 18 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. TechCrunch (@techcrunch)
    ChatGPT 将对试图访问 CSAM 内容的账号封禁 24 小时作为警告

    ChatGPT 对试图访问 CSAM(儿童性虐待材料)内容的账号实施 24 小时封禁,作为一次警告性处罚。

  2. TechCrunch
    OpenAI 发布新图像分类器并在 ChatGPT 添加警告以打击 CSAM

    OpenAI 推出新工具打击儿童性虐待材料(CSAM),包括与 NCMEC 合作开发的图像分类器,可识别含 AI 生成在内的 CSAM 图片,并通过 API 免费向部分企业开放。早期测试显示,该分类器在找到相同数量滥用图像的情况下误报减少 48%,被标记图像为滥用图像的概率提升一倍。ChatGPT 还将新增警告界面,对相关提示词弹窗警示并暂停账户 24 小时,屡犯者可能被永久封号。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。