a16z (@a16z)· a16z·· 18 小时前AI 评分44
Mirendil 展示无预训练团队的大规模预训练里程碑：Mirendil-Base 由一名研究员 3.5 个月、不足 $10M 完成
RT Behnam Neyshabur: We formally announced Mirendil less than 4 months ago. Today, I'm excited to share an important milestone for: Pretraining at sca...
AI 导读
Mirendil 在正式宣布不到 4 个月后宣布一项里程碑：从零开始、无需预训练团队，成功大规模预训练出模型 Mirendil-Base。该模型由一名研究员耗时 3.5 个月、以不足 $10M 的算力完成，含全部研究与最终训练；Mirendil-Base 参数在 100B-500B 范围，Base-Large 为 500B-2T，Base-XL 为 2T-10T。
来源：a16z (@a16z) · x.com