如果你已经能用开源模型跑通对话、接过 API,但一碰到「让它稳定输出我们业务要的格式」「在垂直语料上别胡说」就卡住,那这门课针对的正是这个缺口。它不教你怎么从零预训练一个大模型,也不打算把你变成分布式训练框架的维护者,它盯的是更常见的那件事:手上有一个还不错的基座模型,怎么用有限的数据和显卡把它调成能干活的样子。
先搞清楚你该不该学微调
课程开篇那场答疑直接摆了一个很多人绕不过去的问题:RAG、微调、预训练,什么时候选哪个。这不是客套话。实际工作里最常见的失误,是拿一个提示词工程就能解决的问题去上微调,或者反过来,明明是模型能力边界的问题却拼命堆检索。所以这门课一上来就要求你先建立判断标准——数据量多大、任务是不是要求固定风格或格式、知识更新频率如何、推理成本能承受到什么程度。看完这部分,你至少应该能回答:我手上这个需求,值不值得动微调。
微调技术上到底有哪些选择
课程主体覆盖的是目前工程上真在用的那几类方法。全参数微调为什么会先被劝退,PEFT 这类参数高效微调解决的是什么约束,LoRA 及其变体在秩、注入位置、学习率上怎么调,MoE 结构在训练和推理时的差别在哪。这些不是让你背概念,而是让你知道每种方法的显存开销、训练速度、效果上限大致处在什么位置。学完这块,至少要能说清楚:为什么你的 24G 卡上做全量微调不现实,而 LoRA 能跑起来,代价是什么。
工具链和分布式训练不是选修
光懂原理不动手,微调这件事是学不会的。课程里有 HF PEFT 这类高效微调工具的使用,也有 DeepSpeed 这种分布式训练框架的内容。它们对应的现实问题是:单卡放不下怎么办、训练太慢怎么加速、混合精度和显存优化怎么配。这部分对转岗的人尤其重要,因为面试和实际任务里,「你用什么跑的、怎么解决的显存问题」几乎必问。看的时候建议跟着把环境搭起来,哪怕只在一个小模型上跑通一次 LoRA 训练流程,收获会比只看视频大得多。
配套练习与自测方向
- 准备一份几百到几千条的自有数据,判断它更适合做指令微调还是继续预训练。
- 用同一个基座模型,分别跑一次 LoRA 和一次全参微调,对比显存占用与效果差异。
- 把训练好的适配器合并回基座,验证推理时是否真的按预期输出。
- 针对一个失败案例,分析问题出在数据、超参还是方法选型上。
这些问题如果现在还答不上来,说明缺口就在这门课覆盖的范围内;如果大部分能答,那你要补的可能只是其中某一块,挑对应章节看即可,不必从头刷。
看完你应该能回答的问题
一门微调课有没有学进去,不看笔记厚度,看你能不能做判断。合上课程后,试着回答:给定一个业务场景和一张显卡,你会选哪种微调方式,数据怎么准备,训练中怎么判断是过拟合还是欠拟合,微调之后模型变差了该从哪查。这些是这门课真正想让你具备的能力,也是它在 PEFT、LoRA、MoE、DeepSpeed 这些名词背后想传达的东西。
【极客时间-finetuning】AI 大模型微调训练营
掌握前沿技术,打造个性化AI应用
编辑点评
深入解析大模型微调技术,涵盖PEFT、LoRA、MoEs等,实战性强,适合对AI应用开发感兴趣的学员。
⭐ 编辑推荐
跟随极客时间,学习大模型微调前沿技术,掌握PEFT、LoRA等工具,打造个性化AI应用。
课程亮点
课程目录
📁 0-开营直播1019
0-开营直播-10.19直播答疑部分.mp4 [407.5 MB]
0-开营直播1019-RAG、微调、预训练,如何选择适合的大模型优化方式?.mp4 [1.1 GB]
📁 3-大语言模型技术发展与演进
📁 视频
03-大模型演进.mp4 [1.8 GB]
📁 16-大模型分布式训练框架 Microsoft DeepSpeed
📁 视频
16-大模型分布式训练框架 Microsof Deepspeed1月28日.mp4 [1.4 GB]
📁 9-大模型高效微调工具HF PEFT
📁 视频
09-大模型高效微调工具HF PEFT12月27日.mp4 [1.3 GB]
📁 4-大语言模型微调技术揭秘-PEFT
📁 视频
04-大模型微调技术揭秘-PEFT.mp4 [2.1 GB]
04-新录制1月14日.mp4 [864.7 MB]
📁 2-大模型四阶技术总览
📁 视频
02-AI大模型四阶技术总览.mp4 [1.5 GB]
📁 10-实战QLoRA微调ChatGLM3-6B
📁 视频
10-10-实战QLORA微调ChatGLM3-6B 1月3日.mp4 [990.0 MB]
10-AI 大模型微调训练营第 0 期直播课-6.mp4 [774.0 MB]
📁 11-快速入门 LangChain
📁 视频
11-快速入门 LangChain 1月7日-2.mp4 [924.1 MB]
11-快速入门 LangChain 1月7日.mp4 [291.6 MB]
📁 1-开营直播:大语言模型微调的前沿技术与应用
📁 视频
01-大模型微调的前沿技术与应用.mp4 [836.3 MB]
📁 7-实战 Transformers 模型微调
📁 视频
07-实战 Transformers 模型微调-12月13日.mp4 [1.5 GB]
📁 6-大模型开发工具库
📁 视频
06-大模型开发工具.mp4 [1.5 GB]
📁 8-实战Transformers模型量化
📁 视频
08-实战Transformers模型量化.mp4 [1.2 GB]
📁 5-大语言模型微调技术揭秘-LoRA
📁 视频
05-大模型低秩适配(LoRA)技术.mp4 [1.5 GB]
📁 15-混合专家模型(MoEs)技术揭秘
📁 视频
15-混合专家模型(MoEs)技术揭秘1月25日.mp4 [942.8 MB]
📁 12-实战基于LangChain和ChatGLM私有化部署聊天机器人
📁 视频
12-实战基于LangChain和ChatGLM私有化部署聊天机器人1月10日.mp4 [1.4 GB]
📁 13-实战私有数据微调ChatGLM3
📁 视频
13-实战私有数据微调ChatGLM31月18日.mp4 [1.4 GB]
📁 17-Meta AI 大模型家族 LLaMA
📁 视频
17-Meta Al 大模型家族 LLaMA1月31日.mp4 [1.1 GB]
📁 14-ChatGPT大模型训川练技术RLHF
📁 视频
14-ChatGPT大模型训川练技术RLHF1月21日.mp4 [1.1 GB]适合人群
- AI开发者
- 数据科学家
- 对AI应用开发感兴趣的学员
学习收获
祝您学习愉快!
学有所成,前程似锦!






