Mixture-of-Control：面向 Transformer 模型的状态感知微调方法
Mixture-of-Control: State-Aware Fine-Tuning for Transformer-based Models
AI 导读
NeurIPS 2026 论文提出 Mixture-of-Control（MoC），一种基于状态微调的高效跨层通信方法，将逐块控制状态视为稀疏 mixture-of-experts 中的专家，自适应融合局部与全局控制信号。该方法在 33 个数据集和 10 个预训练模型上评测，性能持续超越现有状态微调方法，同时保持相近的内存与计算开销。
来源：arXiv cs.AI · arxiv.org