KServe 工作流程:从 InferenceService 到 vLLM 服务

上一篇完成了 KServe 的安装,并通过 InferenceService 跑通了一个 Qwen 模型服务。

赞(0)
未经允许不得转载:小狮博客 » KServe 工作流程:从 InferenceService 到 vLLM 服务
分享到: 更多 (0)

联系我们