跳到正文
NVIDIA Developer Blog· Tanya Lenz·· 11 小时前AI 评分30

NVIDIA CUDA Tile (cuTile) 为 Mamba-2 提供高性能前向传播内核加速

Accelerating Mamba-2 with High-Performance Forward Pass Kernels in NVIDIA CUDA Tile

AI 导读

NVIDIA 发布了基于 Python DSL 的 CUDA Tile (cuTile) 并行编程模型,并提供了针对 Mamba-2 模型的高性能前向传播内核实现。

来源:NVIDIA Developer Blog · developer.nvidia.com