跳到正文
热点事件持续更新

Metis-1.6 技术报告发布:单人从零训练两个 MoE 模型

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

研究者 Giulianno Vollmer 发布 Metis-1.6 技术报告,介绍其单人从零训练的两个语言模型:Praxis(2.94B 参数,每次激活 0.46B)和 Logos(10.23B 参数,每次激活 1.18B)。 两个模型均采用混合 Mamba-2 与注意力机制的 MoE 架构,并对每个 token 执行两次处理。报告称这是 Metis-1.6 系列的最新进展。

AI 根据报道生成 · 1 小时前更新

最新进展10月31日 12:00
Think Twice:Metis-1.6 技术报告

报道时间线

沿着报道,了解事件的不同侧面。

10月31日
  1. arXiv cs.AI
    Think Twice:Metis-1.6 技术报告

    研究者发布 Metis-1.6 技术报告,介绍由单人从零训练的两个模型:Praxis(2.94B 参数、0.46B 激活)和 Logos(10.23B 参数、1.18B 激活),均采用混合 Mamba-2 与注意力 MoE 架构,对每个 token 执行两次处理。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。