AI 日报 · 2026 年 10 月 22 日 · 星期四
MYHOT
DeepSeek 开源推理框架 DeepInfer 的生产性能与经济分析
DeepSeek 开源了其生产推理框架 DeepInfer，并披露了相关的性能与经济数据。该框架支持分布式推理、推测解码和结构化输出，据称单个集群每日可处理 155T token，在非高峰时段每加速器小时可产生 38 美元收入，推断利润率超过 80%。vLLM 团队随后发布了对比测试，显示在匹配配置下其解码吞吐量与 DeepInfer 公布的结果相差在 6% 以内。
Latent Space原文 产品发布/更新
NVIDIA 在 GTC Berlin 展示全系列本地 AI 硬件，包括 RTX Spark、DGX Spark 和 DGX Station
NVIDIA 在 GTC Berlin 展示了其全系列本地 AI 硬件产品线。RTX Spark 上周发布，为 Windows PC 上的个人智能体提供算力；DGX Spark 支持开发者在 Linux 上构建和扩展应用；DGX Station 服务于在 Linux 上运行前沿工作负载的企业团队，其 Windows 版本将于 12 月推出。公告还包括新模型支持和多项软件更新。
NVIDIA 发布 Kumo Relational 关系型基础模型
NVIDIA 发布了预训练关系型基础模型 Kumo Relational，可直接在企业数据库上进行预测，无需任务特定训练、特征工程或表格扁平化。该模型在 15 个数据库的 41 项任务上超越了监督式关系深度学习模型和专家设计的梯度提升树流程，在 SAP SALT 企业基准测试中平均倒数排名比 AutoGluon 集成方法高 8%。
NVIDIA 扩展 Agent Toolkit，推出 Agent Knowledge Foundation
NVIDIA 扩展其开源 Agent Toolkit，推出新的 Agent Knowledge Foundation，帮助企业利用公司数据定制和控制智能体。该工具包包含 CUDA-X 库、Nemotron Retriever 和 Kumo 系列开源模型、OpenShell 安全运行时以及 NemoClaw 蓝图。
NVIDIA Sentry：在运行时保护 AI 智能体安全的软件框架
NVIDIA Sentry 是一个用于监控 AI 智能体运行时的安全软件框架。它旨在防止智能体在使用工具、凭据和服务时绕过安全控制，其监控与执行机制独立于智能体，使其无法被篡改或禁用。
NVIDIA 发布 Nemotron 3.5 系列检索模型，包含 Embed、Rerank 和 Parse
NVIDIA 扩展了 Nemotron Retriever 系列，发布了新的开源商用模型，包括 Nemotron 3.5 Embed 8B/1B、Nemotron 3.5 Rerank 8B 和 Nemotron 3.5 Parse。
- NVIDIA 扩展开源模型系列，涵盖语言、机器人、生物和量子计算NVIDIA Blog