研究者提出让手机NPU参与LoRA端侧训练的系统
热点事件持续更新
研究者提出让手机NPU参与LoRA端侧训练的系统
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
论文作者发布研究，提出让手机 NPU 承担 LLM LoRA 微调中三部分冻结权重乘法（前向传播、激活重计算和输入梯度），训练图、适配器与优化器留在 CPU 运行；输入梯度 kernel 复用驻留权重分块和前向反量化器。该系统使手机端侧参与 LoRA 训练成为可能。作者在两台高通骁龙平台上、使用 Qwen 和 Llama 两个系列的四个大模型对系统进行了评估。
AI 根据报道生成 · 2 小时前更新
最新进展10月28日 12:00
基于 NPU 的 LoRA 一阶训练系统让手机在端侧微调 LLM报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- arXiv cs.AI基于 NPU 的 LoRA 一阶训练系统让手机在端侧微调 LLM
一项 arXiv 研究提出让手机 NPU 参与 LLM LoRA 微调的系统：NPU 承载前向传播、激活重计算和输入梯度三部分冻结权重乘法，训练图、适配器与优化器留在 CPU，输入梯度 kernel 复用驻留权重分块和前向反量化器。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。