Dylan Patel (@Dylan522P)· Dylan Patel·· 2 天前AI 评分8
FlashAttention 曾是一个 mega kernel
FlashAttention was a mega kernel @marksaroufim @tri_dao @__tensorcore__ @vinodg
AI 导读
Dylan Patel 发文指出 FlashAttention 本质上是一个 mega kernel,并@ 了 Mark Saroufim、Tri Dao 等相关开发者。正文仅有这一句话,未提供更多技术细节或数据。
来源:Dylan Patel (@Dylan522P) · x.com