模型蒸馏（Distillation）案例–从DeepSeek-R1-1.5B 到 Qwen-2.5-1.5B 的模型蒸馏

2025-03-31 分类：技术专栏 阅读(86) 评论(0)

本文重点进行DeepSeek-R1-1.5B 到 Qwen-2.5-1.5B 的模型蒸馏（Distillation
），由于硬件资源有限，只能只用cpu进行模型蒸馏。