NVIDIA Developer Blog· Tanya Lenz·· 11 小时前AI 评分30
NVIDIA CUDA Tile (cuTile) 为 Mamba-2 提供高性能前向传播内核加速
Accelerating Mamba-2 with High-Performance Forward Pass Kernels in NVIDIA CUDA Tile
AI 导读
NVIDIA 发布了基于 Python DSL 的 CUDA Tile (cuTile) 并行编程模型,并提供了针对 Mamba-2 模型的高性能前向传播内核实现。
来源:NVIDIA Developer Blog · developer.nvidia.com