这门课的名字里有“应用篇”三个字，值得先说明白：它不负责从零讲什么是神经网络，也不打算把注意力机制推导一遍。如果你连 Transformer 的输入输出长什么样都没概念，直接进来会卡在第二周。它假定你已经跑过至少一次预训练模型的推理，能看懂 PyTorch 的 forward，然后在这个起点上，把“微调”从一句口号变成手里能跑的东西。

它补的是哪一段缺口

很多人对大模型的状态是：会调 API，会写提示词，但一遇到“这个任务提示词搞不定”就没办法了。提示词工程的边界很清楚——模型没见过的领域术语、固定的输出格式、需要贴合自家业务语料的风格，这些靠堆 prompt 只能缓解，不能解决。微调就是那条越过去的路。

但微调的门槛不在“会不会写训练脚本”，而在几个很具体的判断上：

全量微调、LoRA、QLoRA，给定一张 24G 显存的卡，你该选哪个，为什么；
数据要多少条、怎么构造、格式怎么对齐，为什么同样一千条数据效果差很多；
训练 loss 降下去了但推理时输出崩了，问题出在超参、数据还是推理配置；
微调完怎么评，凭什么说这次比上次好。

这门课的内容基本围绕这些判断展开，而不是给你一个“跑通就行”的脚本。

课程推进的节奏

从线索看，它是按周推进的，跨度在十周上下。前段落在 Transformer、Encoder 这些基础结构的再梳理上——不是重讲原理，而是把微调时真正会碰到的部分（注意力计算、位置编码、层结构）挑出来过一遍，为后面改模型、加 adapter 做铺垫。

中段进入实操：不同微调范式的对比与实现，Mistral 7B 这类开源模型的微调是明确出现的案例。到了靠后的补充课，出现了 Flash Attention 相关的内容，这通常意味着课程已经走到显存和速度优化这一步——也就是你不再满足于“能训”，开始关心“训得动、训得快”。这个推进顺序是合理的，先解决对不对，再解决快不快。

需要提醒的是，这类课的资料包体量不小，课件和代码是主体，视频只是引导。如果打算只看不练，收获会非常有限，因为微调的坑几乎全在动手环节暴露。

学之前最好先确认的几件事

能独立配好 CUDA 环境和 Python 依赖，遇到版本冲突能自己查；
读过一次 Hugging Face 的模型加载与推理流程，知道 tokenizer 和 model 各自干什么；
有可以折腾的显卡资源，本地或云上都行，但要能连续跑几小时；
手头有一个真实想解决的任务，哪怕很小——分类、抽取、固定格式生成都可以。

最后一条尤其关键。带着具体任务学，和空手学，吸收率差得远。课程里的案例是别人的数据，你得把它翻译成自己的问题，才知道哪些步骤能照搬，哪些必须改。

学完应该能回答的问题

用这几个问题自查，比看目录有用：

给自己的任务，选 LoRA 还是全量微调，理由是什么，显存估算怎么算；
训练数据从哪来，如何清洗和格式化，多少条算够；
一次训练跑完，从 loss 曲线和验证输出里能判断出哪些问题；
微调后的模型和基座模型做对比测试，你打算怎么设计；
如果效果不达标，排查顺序是什么。

这五个问题答不上来，说明还停在“跑通脚本”的阶段；能答清楚，微调这件事才算真正进到你的能力范围里。这门课的价值，在于它把这些问题逐个摊开，而不是替你绕过去。

🔥 贪心科技-大模型微调实战营-应用篇

大模型微调实战，掌握AI应用开发

编辑点评

实战导向，深入浅出，从原理到实战，助你成为AI应用开发高手。

⭐ 编辑推荐

🔥 贪心科技-大模型微调实战营-应用篇，带你探索AI微调的奥秘。

📚 系统学习大模型微调技术，掌握AI应用开发技能。

课程亮点

• 实战导向

• 深入浅出

• 系统学习

课程目录

📁 课件资料
    课件资料.exe  [193.2 MB]
📁 01 第一周
    📁 01 第一节 2024年1月21日
        📁 01 开营+大模型介绍、Transformer
            05 Self-Attention【持续更新‖免费提供：CunworknoteS】.mp4  [329.3 MB]
            02 大模型爆发式发展【持续更新‖免费提供：CunworknoteS】.mp4  [240.5 MB]
            04 Transformer的应用.mp4  [183.1 MB]
            01 开营.mp4  [168.9 MB]
            03 大模型是如何炼成的【优质资源‖关注：cunWorkNotes 解锁】.mp4  [88.3 MB]
📁 08 第八周
    📁 01 第六节补充课
        📁 01 Flash Attention cont、微调Mistral 7B
            03 分块模式中计算O.mp4  [285.9 MB]
            05 微调Mistral 7B.mp4  [730.5 MB]
            01 Flash Attention cont【持续更新‖免费提供：CunworknoteS】.mp4  [123.5 MB]
            02 Self-Attention的分块计算.mp4  [557.5 MB]
            04 Mixture of Expert Model【整理不易‖记得关注：CunWorKNotes】.mp4  [78.0 MB]
📁 02 第二周
    📁 01 第二节 2024年1月28日
        📁 01 Transformer、Encoder、Advanced
            02 Transformer Part2.mp4  [289.4 MB]
            01 Transformer Part1【公重号：CunWorkNotes】.mp4  [264.4 MB]
            03 Encoder-based and Decoder Based LLMs.mp4  [80.9 MB]
            04 Advanced Topics.mp4  [190.1 MB]
📁 10 第十周
    📁 01 第七节补充课 2024年4月17日
        📁 01 Optimal Policy、Intro to Monte Carlo
            02 Intro to Monte Carlo.mp4  [229.4 MB]
            01 Optimal Policy.mp4  [434.4 MB]
📁 03 第三周
    📁 01 第三节 2024年2月25日
        📁 01 大模型微调概览 Lora微调
            01 大模型微调概览.mp4  [283.1 MB]
            03 Lora微调-从零实现Lora到Roberta.mp4  [437.6 MB]
            02 Lora微调-Lora算法.mp4  [302.0 MB]
📁 07 第七周
    📁 01 第六节 2024年3月31日
        📁 01 Distributed Computing、Flash Attention
            02 Distributed Computing【资源精选‖更多关注：CunworkNotes】.mp4  [328.6 MB]
            01 GPU时间计算.mp4  [411.1 MB]
            03 ZeRO-123 and FSDP【优质资源‖关注：cunWorkNotes 解锁】.mp4  [459.6 MB]
            04 Flash Attention.mp4  [403.4 MB]
📁 04 第四周
    📁 01 第四节 2024年3月3日
        📁 01 Alpaca、AdaLoRA、QLoRA
            03 QLoRA.mp4  [372.4 MB]
            02 AdaLoRA【公重号：CunWorkNotes】.mp4  [464.6 MB]
            01 Alpaca【持续更新‖免费提供：CunworknoteS】.mp4  [788.3 MB]
📁 05 第五周
    📁 01 第五节 2024年3月17日
        📁 01 Prefix Tuning、Quantization
            02 Quantization01.mp4  [194.5 MB]
            04 Quantization Methos for LLM.mp4  [83.6 MB]
            01 Prefix Tuning.mp4  [354.1 MB]
            03 Quantization02【资源精选‖更多关注：CunworkNotes】.mp4  [277.5 MB]
📁 09 第九周
    📁 01 第七节 2024年4月14日
        📁 01 强化学习
            03 Multi-armed Bandit.mp4  [343.9 MB]
            01 RLHF介绍【公重号：CunWorkNotes】.mp4  [687.3 MB]
            02 强化学习.mp4  [282.1 MB]
            04 The goal of Agent.mp4  [542.5 MB]
📁 06 第六周
    📁 01 助教补充课 2024年3月24日
        📁 01 llama介绍&运行&量化&部署&微调
            02 llama介绍&运行&量化&部署&微调02【公重号：CunWorkNotes】.mp4  [927.3 MB]
            01 llama介绍&运行&量化&部署&微调01.mp4  [566.4 MB]