跳到正文
36氪 · AI·· 3 小时前AI 评分33

AI推理进入Token成本时代,熵旋芯智押注MRAM存内计算

AI 导读

成立于2026年的芯片公司熵旋芯智提出首代MRAM存内计算架构MITA,将专家权重常驻片上MRAM阵列、在存储位置直接参与运算,对应硬件命名为MPU,瞄准MoE模型中的FFN专家计算。MPU计划作为专用加速模块接入现有推理系统,与GPU协同而非替代GPU。公司将单位Token推理成本降低90%作为中长期目标,但该数字仍是目标而非实测结果。

来源:36氪 · AI · 36kr.com