跳到正文
Hacker News· Retell15·· 2 小时前AI 评分61

本地部署 AI 入门指南:用 Unsloth Desktop 和 Qwen3.8-27B 在家用 PC 搭建免费私人助手

A Beginner's Guide to Local AI with Inkling, Qwen, and Unsloth

AI 导读

作者分享在 Windows PC 上用 Unsloth Desktop 搭建本地 AI 的完整流程,安装加下载约 10-15 分钟即可使用。作者使用 RTX 5090(32GB VRAM)搭配 4-bit 量化的 Qwen3.8-27B,设置 128K 上下文,并通过内置 LAN 分享让全家在浏览器中使用。

来源:Hacker News · gpupartner.com