跳到正文
Tom's Hardware· Shane Downing ·· 2 小时前AI 评分43

发烧友用二代 Optane PMem 200 在纯 CPU 上跑月之暗面 Kimi K3(2.8T 参数)模型

Homelabber uses second-gen Optane memory sticks to run a 2.8-trillion-parameter AI model on CPU alone

AI 导读

一位 Reddit homelab 玩家用已停产的二代 Intel Optane PMem 200 内存搭配 40 核三代 Xeon Scalable CPU,无 GPU 推理 Moonshot AI 的 2.8 万亿参数 Kimi K3 模型。

来源:Tom's Hardware · tomshardware.com