首页
教程
IT编程
国外技术
登录
标签
服务化参数调优实战
服务化参数调优实战
服务化性能调优前置准备完成MindIE环境的安装,参考链接下载好要调优的模型权重下载好性能测试数据集调优流程下面以Llama3-8B为例,讲解调优全流程1.查看模型权重大小Llama3-8B权重为15GB2.计算npuMemSize计算公式
服务化参数调优实战
admin
9小时前
5
0