Thinking Machines 发布可跑在笔记本上的循环架构开源模型 Inkling 2 Mini
Inkling 2 Mini
AI 导读
Thinking Machines 发布开源权重模型 Inkling 2 Mini,采用循环 transformer 架构,中间 12 层对每个 token 运行三次,总参数 26.4B、激活 3.4B,显存占用约 20GB,可在消费级笔记本离线运行。
同一件事,精选收录的是《Thinking Machines Lab 发布 Inkling 2 Mini,面向本地部署的循环层多模态 MoE 模型》