从零到微调：大模型落地的核心拼图

很多开发者在做 AI 应用时，往往卡在两个极端：要么只会调用 API 写简单的 Prompt，一旦需要模型具备特定行业知识或特殊格式输出时便束手无策；要么试图从头训练基础模型，却因算力不足而放弃。这门课解决的问题正是中间的断层——如何以较低的门槛，完成从“使用通用模型”到“打造专属模型”的跨越。课程摒弃了晦涩的数学推导，从 Scaling Law 的实战视角切入，重点讲解 Llama-Factory 环境搭建、SFT 数据集构造、LoRA/Q LoRA 高效微调以及模型评估与部署的全链路流程。它适合已经掌握 Python 基础、对 Hugging Face 生态有初步接触，且拥有一块带有大显存的显卡（如 NVIDIA A10/A100 或消费级 RTX 系列）的学习者。如果你连 conda 环境隔离和 pip 依赖冲突都处理得磕磕绊绊，建议先补充环境配置的基础知识，再进入本课。

RAG 与微调的双轨并行

单独看微调只是课程的一半，另一半则是 RAG（检索增强生成）。在实际工程落地中，纯微调无法解决实时知识更新的问题，而纯 RAG 又受限于检索质量和上下文窗口。本课程将两者结合，先通过 NaiveRAG 和 LangChain 实践让你理解基础检索逻辑，再深入层次索引、句子窗口、HyDE 等高级 RAG 策略，解决“检索不准”和“上下文太长丢失关键信息”的痛点。建议你按顺序先看完环境准备和数据集准备，明确微调数据的格式规范（如 Alpaca 格式），然后再进入微调实操环节。对于 RAG 部分，可以先跳过复杂的 LangChain 源码分析，直接跟随 RAGFlow 项目实操，理解文档解析、向量化和检索召回的核心流程，这样能更直观地感受到知识库构建的完整闭环。

学完能做什么与练习建议

完成这门课后，你应该能够独立搭建一套本地大模型开发环境，根据业务需求构造指令微调数据集，使用 LoRA 技术对开源基座模型（如 Llama 3、Qwen）进行轻量级微调，并利用 BFCL 等基准测试工具客观评估模型效果。更重要的是，你应当能够设计一个包含高级检索策略的 RAG 系统，将私有知识库与微调后的模型结合，部署出具备特定领域能力的智能助手。配套资料中包含了从环境脚本到评估代码的完整案例，建议不要只看视频，务必亲手敲一遍 Llama-Factory 的配置命令，并尝试修改一个公开数据集（如 Alpaca）进行小规模微调实验。只有当你亲眼看到 Loss 下降、生成结果符合预期时，理论上的“微调原理”才真正转化为你的工程能力。资料包中的代码片段是理解高级 RAG 策略的关键，务必对照源码分析其索引构建逻辑，而非仅调用封装好的接口。

课程介绍

1_第一课：人工智能介绍：迭代路径，大模型进化树，技术分类.mp4 2_第二课：柏拉图表征假说与scalinglaw：KM缩放定律.mp4 3_第三课：AI开发环境（python、conda、vscode.mp4 4_第一课：大模型微调llama-factory环境准备.mp4 5_第二课：微调数据集准备（SFT 继续预训练，偏好优化）.mp4 6_第三课：微调过程lora微调与Qlora微调.mp4 7_第四课：模型评估（批量推理与自动评估benchmark）.mp4 8_第五课：模型部署（模型合并导出与量化，本地部署）.mp4 9_第一课：RAG技术原理与RAGFlow项目实操.mp4 10_第二课：NaiveRAG与langchain实践.mp4 11_第三课：高级RAG（一）层次索引，句子窗口，子查询，HyDE.mp4 12_第四课：高级RAG（二）提示词压缩，融合，llamain

课程目录

1_第一课：人工智能介绍：迭代路径，大模型进化树，技术分类.mp4 2_第二课：柏拉图表征假说与scalinglaw：KM缩放定律.mp4 3_第三课：AI开发环境（python、conda、vscode.mp4 4_第一课：大模型微调llama-factory环境准备.mp4 5_第二课：微调数据集准备（SFT 继续预训练，偏好优化）.mp4 6_第三课：微调过程lora微调与Qlora微调.mp4 7_第四课：模型评估（批量推理与自动评估benchmark）.mp4 8_第五课：模型部署（模型合并导出与量化，本地部署）.mp4 9_第一课：RAG技术原理与RAGFlow项目实操.mp4 10_第二课：NaiveRAG与langchain实践.mp4 11_第三课：高级RAG（一）层次索引，句子窗口，子查询，HyDE.mp4 12_第四课：高级RAG（二）提示词压缩，融合，llamainde.mp4 13_第五课：模块化RAG（一）顺序模式，条件模式，分支模式.mp4 14_第六课：模块化RAG（二）迭代，递归检索，FLARE，Toc.mp4 15_第七课：Embedding原理：word2vec、CBOW.mp4 16_第八课：Embedding模型训练：llamaindex微调.mp4 17_第九课：Embedding模型评估：MRR评测，MTEB评测.mp4 18_第十课：Rerank技术原理与实践（一）交叉编码与双编码.mp4 19_第十一课：Rerank模型微调与实践（二）rankGPT.mp4 20_第十二课：向量数据库简介与相似性测量：欧式距离，余弦相似度.mp4 21_第十三课：相似性搜索算法：k-means，肘部法则.mp4 22_第十四课：近似邻近算法与过滤向量：PQ量化，HNSW，LSH.mp4 23_第十五课：向量数据库选型：专用向量数据库，传统数据库支持向量.mp4 24_第十六课：向量数据库代码示例：chroma与qdrant代码.mp4 25_第十七课：RAG评估：评估指标，RAGAs，TruLens.mp4 26_第十八课：RAG行业落地：实践心得，落地经验，业务场景.mp4 27_第一课：Agent原理简介：planning、memory、.mp4 28_第二课：提示词工程：软提示词，fewshot，COT TOT.mp4 29_第三课：Agent平台：国内外主流平台，Coze搭建智能客服.mp4 30_第四课：Agent工具使用与functioncall：MR.mp4 31_第五课：Agent设计模式（一）：Fewshot，ReAct.mp4 32_第六课：Agent设计模式（二）：REWOO，LLMComp.mp4 33_第七课：Agent设计模式（三）：Reflexion，LAT.mp4 34_第八课：Agent框架：SingleAgent，Multi.mp4 35_第九课：Langchain项目原理与实战.mp4 36_第十课：Langgraph项目原理与实战.mp4 37_第十一课：Langgraph多Agent架构：协作多Age.mp4 38_第十二课：AutoGen项目原理与实战（一）：AutoGen.mp4 39_第十三课：AutoGen项目原理与实战（二）：代码执行，工具.mp4 40_第十四课：CrewAI项目原理与实战：Crew Task A.mp4 ai认知课.pdf embedding技术.pdf llama-factory微调.pdf rerank技术.pdf 企业RAG技术实战.pdf