本地部署 AI 入门指南:用 Unsloth Desktop 和 Qwen3.8-27B 在家用 PC 搭建免费私人助手
A Beginner's Guide to Local AI with Inkling, Qwen, and Unsloth
AI 导读
作者分享在 Windows PC 上用 Unsloth Desktop 搭建本地 AI 的完整流程,安装加下载约 10-15 分钟即可使用。作者使用 RTX 5090(32GB VRAM)搭配 4-bit 量化的 Qwen3.8-27B,设置 128K 上下文,并通过内置 LAN 分享让全家在浏览器中使用。