从 HuggingFace 到实战落地的能力补齐路径

这门课解决的核心问题，是开发者在掌握大模型基础概念后，面临的“只会调 API，不会本地部署和微调”的能力断层。课程从 HuggingFace 核心组件入手，填补了读者对模型仓库结构、模型卡（Model Card）解读及 Transformers 库底层逻辑的认知缺口。许多学习者卡在第一步，是因为不理解模型权重的加载机制与量化原理。通过先修 Day 01 和 Day 06，你将掌握 Ollama、vLLM 及 LMDeploy 等工具的本地私有化部署流程。这一步至关重要，只有理解了分布式推理与量化部署（Day 13）的技术细节，后续的微调与 RAG 构建才不会沦为黑盒操作。适合具备 Python 基础、熟悉 Linux 基本命令，且渴望深入模型工程化层面的学习者。对于完全零基础者，建议先补充机器学习基础；对于仅会用 LangChain 调接口的开发者，本课程将填补你底层模型调度与训练配置的短板。

微调实战与 RAG 进阶：从 Demo 到行业应用

课程中段聚焦于大模型微调与检索增强生成（RAG）的深度结合。在微调环节，课程并未停留在理论，而是通过 LLaMA-Factory 对 Qwen 模型进行自定义微调（Day 07、08），重点补足构建高质量微调数据集的能力。你需要掌握如何将通用指令转化为特定领域（如情绪对话）的训练样本，并通过 Day 12 的知识蒸馏章节，理解模型压缩与性能平衡的工程权衡。在 RAG 进阶部分，课程深入 Llama Index 生态，弥补了初学者对 Embedding 模型选型（Day 18）及文档切分策略（Day 19）的盲区。许多 RAG 系统效果不佳，根源在于未处理好重排序（Rerank）与向量库（ChromaDB）的配合。通过 Day 21 的 RAGFlow 及 Day 23 的法律条文智能助手项目，你将看到如何将这些组件串联，解决垂直领域的知识问答难题。此外，Day 27 对 DeepSeek 原理的剖析，有助于理解当前开源模型的最新架构演进，避免技术视野滞后。

学完能独立做什么及资料配合建议

完成本课程后，你应该能够独立完成以下任务：在本地部署并优化大模型推理服务，使用 LLaMA-Factory 针对特定业务场景微调开源模型（如 Qwen、Llama），以及构建基于 Llama Index 或 RAGFlow 的企业级 RAG 应用，并具备使用 OpenCompass（Day 14）对模型效果进行科学评估的能力。资料包中的 zip 文件主要包含代码脚本、配置文件及微调数据集，mp4 视频则用于演示环境搭建与调试过程。建议采用“视频预习 + 代码跟进”的策略：先看视频理解整体流程，再下载对应日期的代码包，在自己环境中复现。遇到报错时，不要直接复制答案，而应结合代码目录中的配置文件进行排查。特别是微调部分，务必亲手准备一份自定义数据集，这是检验是否真正掌握数据构建能力的唯一标准。切记，资料是辅助，动手跑通每一个 Demo 才是补齐能力缺口的关键。

课程目录

📁 18-Llama_indexRAG进阶_Embedding_model与Chroma
day18_Llama_indexRAG进阶_Embedding_model与ChromaDB.zip [1.4 MB]
day18.mp4 [884.5 MB]
📁 16-大模型微调项目实战（情绪对话模型-最终效果）
demo_16.rar [840.8 MB]
day16_大模型微调项目实战（情绪对话模型-最终效果）.zip [839.1 MB]
day16.mp4 [1.2 GB]
📁 19-Llama_indexRAG进阶_文档切分与重排序
day19_Llama_indexRAG进阶_文档切分与重排序.zip [817.6 KB]
day19.mp4 [1.3 GB]
📁 17-Llamaindex快速构建RAG
day17.mp4 [1.5 GB]
📁 12-大模型压缩训练（知识蒸馏）
day12_大模型压缩训练（知识蒸馏）.zip [927.4 KB]
day_12.mp4 [1.2 GB]
📁 27-DeepSeek原理与应用
day27_DeepSeek原理与应用.zip [1.0 MB]
day27.mp4 [1.1 GB]
📁 01-HuggingFace核心组件介绍
day01_HuggingFace核心组件介绍.zip [1.1 GB]
01-HuggingFace核心组件介绍.mp4 [802.6 MB]
📁 13-大模型推理部署（分布式推理与量化部署）
day13_大模型推理部署（分布式推理与量化部署）.zip [4.0 MB]
day13.mp4 [1.3 GB]
📁 14-大模型评估测试（OpenCompass）
day14.mp4 [1.4 GB]
day14_大模型评估测试（OpenCompass）.zip [453.2 KB]
📁 07-大模型微调（使用LLama Factory微调Qwen）
day07_大模型微调.mp4 [1.1 GB]
📁 23-基于RAG的法律条文智能助手-实现与部署
day23_基于RAG的法律条文智能助手-实现与部署.zip [1.3 MB]
day23.mp4 [1.8 GB]
📁 21-RAGFlow
day21.mp4 [1.0 GB]
day21_RAGFlow.zip [3.4 MB]
📁 08-大模型微调（LLama Factory自定义微调数据集）
day08_大模型微调（LLama Factory自定义微调数据集）.zip [1.0 MB]
day08_大模型微调.mp4 [1.4 GB]
📁 06-本地私有化部署大模型（Ollama&vLLM&LMDeploy
day06_本地私有化部署大模型.zip [453.6 KB]
本地私有化部署大模型.mp4 [1.1 GB]
📁 20-Dify实现RAG
day20_Dify实现RAG.zip [2.5 MB]
day20.mp4 [768.5 MB]
📁 001开班典礼
00-开班典礼.mp4 [468.5 MB]
【聚客AI】AI大模型应用技术2025 - V1.0(1).pdf [208.6 KB]
📁 03-基于Bert的中文评价情感分析（实现篇）
_基于Bert的中文评价情感分析-实现.mp4 [522.1 MB]
📁 24-基于RAG的法律条文智能助手-微调与部署
day24_基于RAG的法律条文智能助手-微调与部署.zip [1.2 MB]
day24.mp4 [1.2 GB]
📁 10-大模型微调（LLamaFactory微调效果与vllm部署效果不一致如何解决）
day_10视频.mp4 [1.3 GB]
day10_大模型微调（LLamaFactory微调效果与vllm部署效果不一致如何解决）.zip [630.4 KB]
📁 11-大模型微调分布式训练（LLama Factory与Xtuner分布式微调大模型）
day11_大模型微调分布式训练（LLama Factory与Xtuner分布式微调大模型）.zip [1.1 MB]
day11.mp4 [1.3 GB]
📁 04-GPT2-中文生成模型定制化（训练篇）
GPT2-中文生成模型定制化_训练篇.mp4 [625.7 MB]
📁 25-Dify构建Agent
day25.mp4 [872.8 MB]
【课件】Agent 智能体应用（Dify构建Agent）.zip [4.1 MB]
📁 02-基于Bert的中文评价情感分析（训练篇）
基于Bert的中文评价情感分析.mp4 [626.9 MB]
day02_基于Bert的中文评价情感分析（训练篇）.zip [371.0 MB]
📁 22-基于RAG的法律条文智能助手（方案篇）
day22_基于RAG的法律条文智能助手（方案篇）.zip [742.1 KB]
day22.mp4 [1.2 GB]
📁 09-大模型微调（QLora微调&GGUF模型转换）
视频.mp4 [1.2 GB]
day09_大模型微调（QLora微调&GGUF模型转换）.zip [1.1 MB]
📁 26-LangGraph构建多智能体
day26_LangGraph构建多智能体.zip [512.5 KB]
day26.mp4 [1.1 GB]
📁 28-多模态大模型应用
day28_多模态大模型应用.zip [5.8 MB]
day28.mp4 [1.2 GB]
📁 15-大模型微调项目实战（情绪对话模型-数据工程篇）
day15.mp4 [853.8 MB]
📁 05-GPT2-中文生成模型定制化
day05_GPT2-中文生成模型定制化.mp4 [1.1 GB]