文章目录运行服务安装 vllm下载模型请求调用curl - completionscurl - chatcompletionsPython - completionPython - chat completion关于 QwQ 系列模型&a

大家好，我是九歌AI。　今天手痒痒，想折腾一下本地部署了，主要是通义千问 QwQ-32B对我太有吸引力了。只有 320 亿参数，性能确可与具备 6710