首页
教程
IT编程
国外技术
登录
标签
在 TKE 上使用 NVIDIA Dynamo 部署 PD 分离
在 TKE 上使用 NVIDIA Dynamo 部署 PD 分离的大模型
刘瑾锋,腾讯云容器服务 TKE 后台开发工程师,主要负责容器服务(TKE)相关研发工作。前言在 2025 年 GTC 大会上,NVIDIA CEO 黄仁勋介绍了他们开源的 Dynamo 推理框架,并称它为“AI 工厂的超级操作系统”。 目前
在 TKE 上使用 NVIDIA Dynamo 部署 PD 分离的大模型
admin
7小时前
1
0