记录-内网部署vllm分布式推理DeepSeekR1:70b

2025-04-10 分类：技术专栏 阅读(107) 评论(0)

/data/vllm_model为你模型文件的位置，如下图则启动成功