跳到正文
Tom's Hardware· Shane Downing ·· 1 小时前AI 评分53

三张二手 Nvidia V100 组装 $1,042 主机跑 Qwen 3.6 35B,长上下文速度超过 $5,399 的 M5 Max Mac Studio

Three 'e-waste' Nvidia V100s hit 100 tokens per second on Qwen 3.6 35B in a $1,042 homelab rig

AI 导读

一位 homelab 玩家用总价 $1,042 的三张退役 Nvidia V100-16GB 跑 Qwen 3.6 35B,4K 上下文下达到 100.8 tokens/秒,128K 时降到 72.7,仍高于其设定的 70 tokens/秒实时交互门槛。

来源:Tom's Hardware · tomshardware.com