Hugging Face Daily Papers· Yujian Liu, Li An, Zelin He, Jacob Helwig, Jiabao Ji, Rohit Jain, Siyu Zhu, Shiyu Chang·· 3 天前AI 评分57
AI 研究团队自主发现线性注意力架构的论文提出多学科智能体协作设计
Building AI Research Teams for Autonomous Discovery of Linear Attention Architectures
AI 导读
论文提出由不同学科背景、保留私有研究历史并通过自适应分配获得研究机会的持久 AI 研究员组成的团队,用于自主探索线性注意力架构。该团队在 1.3B 规模的语言建模、常识推理和检索任务上超越 GDN2。消融实验显示,去掉学科背景、私有历史或自适应分配中的任一组件,发现质量都明显下降。
来源:Hugging Face Daily Papers · arxiv.org