Deepseek 开源其最快最便宜 AI 模型的推理引擎 DeepInfer

Deepseek 将其内部推理框架 DeepInfer 以 Apache 2.0 许可证开源，该框架支撑了其 V4.1-Flash 模型快速生成响应。DeepInfer 基于 vLLM 构建，优化了计算内核、多芯片分布式处理和文本生成技术，并配套发布了 deepseek-recipe 以复现官方 API 的 token 处理逻辑。