跳到正文
热点事件持续更新

研究者提出可替换LLM Transformer块的多头QNN模块

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

Borja Aizpurua Altuna 等研究者在 arXiv 发布论文,提出一种兼容 NISQ 量子设备的多头量子神经网络(QNN)模块,可替换预训练大语言模型中的 Transformer 块。论文称该替换“精度损失很小,且参数远少于被替换的块”。 在 Qwen3-30B-A3B-Instruct-2507 上的实验显示,一个含 145,281 个可训练参数(D=2048、k=32、n_q=8、L=4)的多头 QNN 可替换连续 8 个 Transformer 块,替代其中 16.33% 的参数,模块可在 IBM 量子硬件上执行。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月14日
  1. arXiv cs.AI
    多头量子神经网络:在 300 亿参数 LLM 中用 NISQ 模块替换 Transformer 块

    研究者提出兼容 NISQ 设备的多头量子神经网络(QNN)模块,可替换预训练大语言模型中的 Transformer 块。对 Qwen3-30B-A3B-Instruct-2507 的实验显示,一个含 145,281 个可训练参数(D=2048、k=32、n_q=8、L=4)的多头 QNN 可替换连续 8 个 Transformer 块,替代其中 16.33% 的参数。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。