AWS Machine Learning Blog· Kevin Shabahang·· 4 小时前AI 评分45
i14 的 Laplace 3B 线性注意力模型如何在 AWS Trainium2 上训练与部署
Beyond the KV cache: Training and serving i14’s Laplace 3B linear attention model on AWS Trainium2 with native PyTorch
AI 导读
i14 的 Laplace 3B 线性注意力模型采用 Gated Linear Attention 设计，其推理状态固定为每序列 29.5 MB，不随上下文长度增长。
来源：AWS Machine Learning Blog · aws.amazon.com