爱好者在 48GB MacBook 上以 SSD 流式运行 2840 亿参数模型
热点事件持续更新
爱好者在 48GB MacBook 上以 SSD 流式运行 2840 亿参数模型
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
一名爱好者通过量化与从 SSD 流式加载权重，在 48GB 内存的 MacBook M5 Pro 上运行了 2840 亿参数的开源模型 DeepSeek V4 Flash，速度约 5 tokens 每秒。 这一做法的核心是用内存卸载把超出内存的模型权重放到 SSD 上按需读取，配合量化压缩，使消费级硬件无需昂贵显卡集群也能运行超大开源模型，代价是速度明显慢于常规推理。
AI 根据报道生成 · 49 分钟前更新
最新进展10月26日 12:40
爱好者用量化和 SSD 流式加载把千亿参数开源模型塞进笔记本电脑报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- Startup Fortune爱好者用量化和 SSD 流式加载把千亿参数开源模型塞进笔记本电脑
爱好者借助量化与内存卸载，在消费级硬件上运行超大开源权重模型，有 hobbyist 在 48GB MacBook M5 Pro 上从 SSD 流式运行 2840 亿参数的 DeepSeek V4 Flash，达到约 5 tokens 每秒。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。