近期在 Ubuntu 上安装地表最强 LLM 推理框架 SGLang，本次安装的大模型是 Qwen2:72B GPTQ INT8 量化，显卡 4xA100 40G，实现推理速度 40 Tokenss。安装过程中发现 CUDA 工具包没有，