跳到正文

技术方向

部署工程 最新动态

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

3 条精选近 30 天 2 条共收录 17 条

更新

部署工程的精选

9月30日周三第 1–3 条
9月17日周四
8月11日周二
  1. Mistral AI65

    Mistral 推出区域推理端点、第三方开放模型支持及欧洲算力联盟

    Mistral 宣布三项举措以构建客户 AI 主权基础:Mistral Regional Endpoints 正式可用,允许客户选择推理运行在欧盟或美国;平台将支持第三方开放模型,首个为 Z.ai 的 GLM-5.2;并联合企业成立联盟,通过多年承诺的 European Compute Units 保障欧洲长期 AI 算力容量。公司计划到 2030 年建设高达 1 GW 的算力容量。

    推荐理由:原文给出了 Mistral 为保障 AI 主权推出的三项具体措施,包括区域端点、第三方模型支持和长期算力承诺,读者可以据此判断其对企业合规和部署策略的影响。