发烧友用二代 Optane PMem 200 在纯 CPU 上跑月之暗面 Kimi K3(2.8T 参数)模型
Homelabber uses second-gen Optane memory sticks to run a 2.8-trillion-parameter AI model on CPU alone
AI 导读
一位 Reddit homelab 玩家用已停产的二代 Intel Optane PMem 200 内存搭配 40 核三代 Xeon Scalable CPU,无 GPU 推理 Moonshot AI 的 2.8 万亿参数 Kimi K3 模型。