CUDA-L2用强化学习自动优化HGEMM CUDA内核,性能超越cuBLAS
热点事件持续更新
CUDA-L2用强化学习自动优化HGEMM CUDA内核,性能超越cuBLAS
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
研究团队发布CUDA-L2系统,结合大语言模型与强化学习,以CUDA执行速度作为奖励,自动优化半精度矩阵乘法(HGEMM)内核,覆盖1,000种配置,论文称其性能超过NVIDIA的cuBLAS等库,代码已开源。 按论文报告,在连续执行的离线模式下,CUDA-L2平均比cuBLAS快19.2%,比开启自动调优的cuBLASLt快11.4%;在模拟实时推理、随机间隔执行的服务器模式下,对cuBLAS的加速进一步提升至26.0%,对cuBLASLt-AutoTuning为15.9%。
AI 根据报道生成 · 1 小时前更新
最新进展11月14日 13:00
CUDA-L2:用强化学习让矩阵乘法 CUDA 内核性能超越 cuBLAS报道时间线
沿着报道,了解事件的不同侧面。
11月14日
- arXiv cs.AICUDA-L2:用强化学习让矩阵乘法 CUDA 内核性能超越 cuBLAS
CUDA-L2 结合大语言模型(LLM)与强化学习,以 CUDA 执行速度作为 RL 奖励,自动优化 HGEMM CUDA 内核,覆盖 1,000 种配置。离线模式下平均比 cuBLAS 快 +19.2%,比 cuBLASLt-AutoTuning 快 +11.4%;服务器模式下加速进一步提升至 +26.0% 和 +15.9%。项目代码已开源。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。