369IT编程
  •  首页
  •  教程
  •  IT编程
  •  国外技术
  •  登录
  1. 标签
  2. 在 TKE 上使用 NVIDIA Dynamo 部署 PD 分离
  • 在 TKE 上使用 NVIDIA Dynamo 部署 PD 分离的大模型

    刘瑾锋,腾讯云容器服务 TKE 后台开发工程师,主要负责容器服务(TKE)相关研发工作。前言在 2025 年 GTC 大会上,NVIDIA CEO 黄仁勋介绍了他们开源的 Dynamo 推理框架,并称它为“AI 工厂的超级操作系统”。 目前
    在 TKE 上使用 NVIDIA Dynamo 部署 PD 分离的大模型
    admin7小时前
    10
CopyRight © 2022 All Rights Reserved
Processed: 0.037, SQL: 9