跳到正文
热点事件持续更新

受控实验:读出头复杂度不影响类型化决策模型准确率

1 篇报道1 个报道来源53 分钟前更新

先了解这件事

AI 综述

Ritvik Rastogi 在 arXiv 论文(arXiv:2611.15592)中统一协议重新实现并训练五种类型化决策模型读出头,发现读出头复杂度不影响准确率:在 Qwen3-0.6B 上各读头域内准确率均达 81.3–82.0%,0.5M 参数的余弦头与 27M 参数的联合 schema 头持平,且推理时间减半。 实验控制了骨干模型、15 个公开英文训练来源、训练配方(含逐头学习率搜索)和随机种子。作为参照,把骨干从 Qwen3-0.6B 换成 Qwen3-4B 可带来域内 4 个百分点、保留来源上 11 个百分点的提升,说明扩大的收益主要来自骨干而非读出头设计。

AI 根据报道生成 · 34 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月14日
  1. arXiv cs.AI
    小读出头,强决策:类型化决策模型的受控研究

    该研究在统一协议下重新实现并训练五种类型化决策模型读出头,发现读出头复杂度不影响准确率:在 Qwen3-0.6B 上各读头均达 81.3–82.0% 域内准确率,0.5M 参数的余弦头与 27M 参数的联合 schema 头持平且推理时间减半。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。