这个合集的标题里有两个东西容易让人误判：一是「从零训练」，二是「MiniDeepSeek V3+R1」。如果你以为它是教你复现一个完整版 V3，那第一步就走偏了——九小时的容量撑不起那种事，它真正在做的是把 V3 和 R1 的运行机制拆小、跑通、再做蒸馏，让你能在一张消费级显卡上看见整条链路到底发生了什么。

先确认你到底缺哪一块

这门课被归类在算法数学，但它不是纯理论课，前置要求比较实在：PyTorch 要能自己写训练循环，Transformer 的 attention、KV cache、位置编码不能只是听说过，最好动手微调过一个小模型。如果你连 loss 曲线异常都还判断不了原因，直接进来会比较吃力，建议先补齐反向传播和优化器这一层。

反过来，如果你已经能跑通 LoRA 微调，但每次遇到「蒸馏」「Function calling」「推理部署」就只会调库、说不清内部发生了什么，那这门课正好卡在你的缺口上。它补的不是 API 使用，而是这些名字背后的数据流。

V3 和 R1 在这里分别扮演什么角色

合集把两条线放在一起讲，不是凑数。V3 这条线偏向工程结构：MoE 式的稀疏激活思路、Function calling 的完整执行流程、以及怎么用 Open WebUI 把模型接成一个能对话、能调工具的机器人。你会看到一次工具调用从模型输出结构化参数，到外部函数执行，再到结果回填进上下文的完整闭环，而不是停在「模型返回了一段 JSON」。

R1 这条线偏向推理行为：长链思考是怎么产生和收敛的，推理模型和普通对话模型在训练目标上的差别在哪。把这两条线并排看，你才能理解为什么蒸馏在 R1 上格外有意义——你要把大模型「想很久才想明白」的能力，压进一个小模型的一次前向里。

蒸馏部分才是真正要动手的地方

课程里蒸馏不是一句话带过的概念，而是拆成可执行的动作：教师模型怎么选、logits 怎么对齐、温度参数调高调低分别影响什么、软标签和硬标签怎么配比、学生模型容量不够时该牺牲哪部分能力。这些点每一个都会直接反映在你的训练曲线上，做错了不会报错，只会得到一个「看起来能跑但什么都不像」的模型。

配套练习的价值也在这里。你需要自己改温度、换教师输出的层、对比蒸馏前后在同一批 prompt 上的表现差异。光看视频不动手，这部分基本等于没学。

看完你应该能回答这些问题

Function calling 里，模型是怎么决定「该调工具」而不是「直接回答」的？
蒸馏时只用最终 logits，和加上中间层特征，分别在什么情况下更划算？
为什么 R1 这类推理模型的蒸馏，和普通分类模型的蒸馏不是同一套参数直觉？
学生模型容量明显小于教师时，你判断它「学到了」还是「只学到了表面」的依据是什么？
把训练好的 Mini 模型接进 Open WebUI 之后，哪些环节会重新成为瓶颈？

如果这五个问题你现在答不全，说明这门课的内容对你有用；如果已经能答得比较清楚，那它对你更像一次查漏，重点看蒸馏和 Function calling 那两段就够了，不必从头刷。

从零训练MiniDeepSeek V3+R1模型蒸馏【9小时最强合集】

深度学习模型蒸馏实战教程

编辑点评

系统讲解MiniDeepSeek V3+R1模型蒸馏，深入浅出，适合进阶学习。

⭐ 编辑推荐

9小时最强合集，涵盖模型蒸馏全流程，从搭建到部署。

课程亮点

• 模型蒸馏实战

• MiniDeepSeek V3+R1模型

• 深度学习进阶

课程目录

📁 PART1
    PART1资料.zip  [1.8 MB]
    8.DeepSeek v3 完整Function calling执行流程_41095_8615.mp4  [96.0 MB]
    9.DeepSeek v3+Open WebUI搭建专属聊天机器人_41095_8414.mp4  [57.1 MB]
    7.DeepSeek v3 Function calling功能介绍_41095_5313.mp4  [26.9 MB]
    6.搭建DeepSeek v3多轮对话机器人_41095_5304.mp4  [67.5 MB]
    5.DeepSeek v3模型参数详解_41095_8226.mp4  [48.4 MB]
    4.DeepSeek API-Key获取与模型调用方法详解_41095_1494.mp4  [56.5 MB]
    36.DeepSeek R1模型蒸馏基本环境搭建_41095_2748.mp4  [53.9 MB]
    34.推理大模型主流训练思路介绍_41095_8600.mp4  [48.8 MB]
    35.模型蒸馏概念入门与DeepSeek R1模型蒸馏思路_41095_8081.mp4  [59.9 MB]
    33.DeepSeek R1开源情况介绍_41095_8795.mp4  [29.3 MB]
    31.DPO强化学习微调与对话效果测试_41095_3250.mp4  [81.0 MB]
    32.搭建Web前端执行Mini DeepSeek_41095_7330.mp4  [53.5 MB]
    3.DeepSeek v3开源情况介绍_41095_6925.mp4  [52.4 MB]
    29.Mini DeepSeek v3全量指令微调流程_41095_9447.mp4  [107.5 MB]
    30.指令微调后模型对话性能测试_41095_3486.mp4  [21.6 MB]
    28.Mini DeepSeek v3预训练过程_41095_6644.mp4  [81.1 MB]
    27.MiniDeepSeek v3架构设计_41095_7895.mp4  [110.5 MB]
    26.训练环境部署与分词器训练过程_41095_2884.mp4  [68.8 MB]
    24.DeepSeek v3模型GitHub开源情况详解_41095_5867.mp4  [59.4 MB]
    25.DeepSeek v3技术报告快速解读_41095_4004.mp4  [49.7 MB]
    23.DeepSeek v3模型基本情况介绍_41095_1221.mp4  [45.8 MB]
    22.DeepSeek v3+SGLang、LMDeploy和vLLM部署与调用流程_41095_2036.mp4  [51.3 MB]
    21.DeepSeek v3本地部署与transformer库调用流程_41095_4887.mp4  [51.3 MB]
    20.DeepSeek v3开源情况介绍_41095_2023.mp4  [52.0 MB]
    2.DeepSeek v3模型性能介绍_41095_2612.mp4  [71.3 MB]
    19.【实战】DeepSeek v3搭建多智能体客服系统_41095_8175.mp4  [90.0 MB]
    18.调用外部工具与Multi-Agent实现流程_41095_8651.mp4  [54.4 MB]
    17.Swarm核心功能与使用流程介绍_41095_1973.mp4  [54.3 MB]
    15.DeepSeek v3+Swarm技术实现思路介绍_41095_4658.mp4  [47.2 MB]
    16.DeepSeek v3接入Swarm代码实现_41095_6266.mp4  [34.5 MB]
    14.借助SDK执行GraphRAG全流程_41095_7514.mp4  [81.1 MB]
    12.DeepSeek v3接入GraphRAG流程_41095_5334.mp4  [48.7 MB]
    13.DeepSeek v3+GraphRAG检索与查询过程_41095_3334.mp4  [46.3 MB]
    10.DeepSeek v3+GraphRAG技术实现思路介绍_41095_9742.mp4  [45.4 MB]
    11.GraphRAG基本原理精讲_41095_4605.mp4  [57.1 MB]
    1.2025大模型技术实战_41095_6987.mp4  [20.8 MB]
PART2.rar  [137.3 MB]