跳到正文
Dylan Patel (@Dylan522P)· Dylan Patel·· 2 天前AI 评分8

FlashAttention 曾是一个 mega kernel

FlashAttention was a mega kernel @marksaroufim @tri_dao @__tensorcore__ @vinodg

AI 导读

Dylan Patel 发文指出 FlashAttention 本质上是一个 mega kernel,并@ 了 Mark Saroufim、Tri Dao 等相关开发者。正文仅有这一句话,未提供更多技术细节或数据。

来源:Dylan Patel (@Dylan522P) · x.com