跳到正文
热点事件持续更新

CUDA-L2用强化学习自动优化HGEMM CUDA内核,性能超越cuBLAS

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

研究团队发布CUDA-L2系统,结合大语言模型与强化学习,以CUDA执行速度作为奖励,自动优化半精度矩阵乘法(HGEMM)内核,覆盖1,000种配置,论文称其性能超过NVIDIA的cuBLAS等库,代码已开源。 按论文报告,在连续执行的离线模式下,CUDA-L2平均比cuBLAS快19.2%,比开启自动调优的cuBLASLt快11.4%;在模拟实时推理、随机间隔执行的服务器模式下,对cuBLAS的加速进一步提升至26.0%,对cuBLASLt-AutoTuning为15.9%。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月14日
  1. arXiv cs.AI
    CUDA-L2:用强化学习让矩阵乘法 CUDA 内核性能超越 cuBLAS

    CUDA-L2 结合大语言模型(LLM)与强化学习,以 CUDA 执行速度作为 RL 奖励,自动优化 HGEMM CUDA 内核,覆盖 1,000 种配置。离线模式下平均比 cuBLAS 快 +19.2%,比 cuBLASLt-AutoTuning 快 +11.4%;服务器模式下加速进一步提升至 +26.0% 和 +15.9%。项目代码已开源。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。