受控实验:读出头复杂度不影响类型化决策模型准确率
热点事件持续更新
受控实验:读出头复杂度不影响类型化决策模型准确率
1 篇报道1 个报道来源53 分钟前更新
先了解这件事
AI 综述
Ritvik Rastogi 在 arXiv 论文(arXiv:2611.15592)中统一协议重新实现并训练五种类型化决策模型读出头,发现读出头复杂度不影响准确率:在 Qwen3-0.6B 上各读头域内准确率均达 81.3–82.0%,0.5M 参数的余弦头与 27M 参数的联合 schema 头持平,且推理时间减半。 实验控制了骨干模型、15 个公开英文训练来源、训练配方(含逐头学习率搜索)和随机种子。作为参照,把骨干从 Qwen3-0.6B 换成 Qwen3-4B 可带来域内 4 个百分点、保留来源上 11 个百分点的提升,说明扩大的收益主要来自骨干而非读出头设计。
AI 根据报道生成 · 34 分钟前更新
最新进展11月14日 13:00
小读出头,强决策:类型化决策模型的受控研究报道时间线
沿着报道,了解事件的不同侧面。
11月14日
- arXiv cs.AI小读出头,强决策:类型化决策模型的受控研究
该研究在统一协议下重新实现并训练五种类型化决策模型读出头,发现读出头复杂度不影响准确率:在 Qwen3-0.6B 上各读头均达 81.3–82.0% 域内准确率,0.5M 参数的余弦头与 27M 参数的联合 schema 头持平且推理时间减半。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。