跳到正文
热点事件持续更新

研究神经网络隐藏而非删除纠缠特征

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Akash Samanta 等在 arXiv 发布论文,通过小型自编码器研究神经网络停止输出某特征后是遗忘还是隐藏了该特征,结论是输出沉默不足以证明遗忘。 研究发现,在表示固定的情况下,恢复单个偏置可以通过暴露隐藏在输出激活阈值之后的信号,部分恢复目标检测;目标缺失输入测试可将这一恢复与单纯提升输出的干预区分开。恢复效果取决于特征的几何结构以及被训练的参数。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月16日
  1. arXiv cs.AI
    神经网络研究:Hidden not Deleted——网络如何抑制纠缠特征

    一项 arXiv 研究通过小型自编码器追踪神经网络停止输出某特征后是遗忘还是隐藏了该特征。在表示固定时,恢复单个偏置可通过暴露隐藏在输出激活阈值后的信号部分恢复目标检测,目标缺失输入测试可将其与单纯提升输出的干预区分开。研究发现恢复取决于特征几何结构和被训练的参数,输出沉默不足以证明遗忘。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。