跳到正文
Startup Fortune· Elroy Fernandes·· 4 小时前AI 评分56

Lean-QwenFlash 项目在 8GB 内存上运行 125B 参数的 Qwen3.8-Flash-Next

A Hobbyist Project Runs a 125B AI Model on 8GB of RAM

AI 导读

开发者 MaxDevv 基于 glm53-flash-offload 改造出 Lean-QwenFlash,在 16GB VRAM 和 8GB 系统内存限制下运行阿里 125B 参数开源模型 Qwen3.8-Flash-Next 的完整 262,144-token 上下文窗口。

来源:Startup Fortune · startupfortune.com