研究者提出可替换LLM Transformer块的多头QNN模块
热点事件持续更新
研究者提出可替换LLM Transformer块的多头QNN模块
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Borja Aizpurua Altuna 等研究者在 arXiv 发布论文,提出一种兼容 NISQ 量子设备的多头量子神经网络(QNN)模块,可替换预训练大语言模型中的 Transformer 块。论文称该替换“精度损失很小,且参数远少于被替换的块”。 在 Qwen3-30B-A3B-Instruct-2507 上的实验显示,一个含 145,281 个可训练参数(D=2048、k=32、n_q=8、L=4)的多头 QNN 可替换连续 8 个 Transformer 块,替代其中 16.33% 的参数,模块可在 IBM 量子硬件上执行。
AI 根据报道生成 · 2 小时前更新
最新进展11月14日 13:00
多头量子神经网络:在 300 亿参数 LLM 中用 NISQ 模块替换 Transformer 块报道时间线
沿着报道,了解事件的不同侧面。
11月14日
- arXiv cs.AI多头量子神经网络:在 300 亿参数 LLM 中用 NISQ 模块替换 Transformer 块
研究者提出兼容 NISQ 设备的多头量子神经网络(QNN)模块,可替换预训练大语言模型中的 Transformer 块。对 Qwen3-30B-A3B-Instruct-2507 的实验显示,一个含 145,281 个可训练参数(D=2048、k=32、n_q=8、L=4)的多头 QNN 可替换连续 8 个 Transformer 块,替代其中 16.33% 的参数。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。