知乎-AI大模型全栈工程师8期（带课件）

先想清楚：你缺的到底是哪一块

大模型这个词现在快被说烂了，但真正动手做过一轮的人会知道，难点从来不是「调个 API 让模型回句话」。真正的坎在于：模型为什么这么输出、上下文塞不下时怎么办、检索回来的内容答非所问怎么排查、训练一个能用的微调版本要动哪些参数、上线之后显存和延迟怎么压。这些问题散落在 Python 工程、Transformer 原理、向量检索、训练框架和部署运维里，任何一块空着，后面都会卡住。

这门课对应的是知乎 AI 大模型全栈工程师第 8 期，带课件。它的定位不是科普，而是把上面这些散点按一条能跑通的工程链路串起来。所以这篇导读不打算给你画大饼，而是帮你判断：你现在缺的是哪一环，学之前该补什么。

这门课适合补哪种缺口

如果你属于下面几类，学起来会比较顺：

• 会写 Python，也用过 LangChain 或同类框架跑过 demo，但一到真实数据就发现检索不准、答案乱编，不知道从哪下手调。
• 做后端或数据方向，想转到大模型应用开发，但对注意力机制、位置编码、微调与提示工程的区别只有模糊印象。
• 已经在做 AI 应用，却被「上下文长度」「推理成本」「效果评估」这几个问题反复拖住，需要一套成体系的排查思路。
• 准备面试大模型相关岗位，想把 RAG、Agent、微调、部署这些高频考点从「听说过」变成「讲得清、写得出」。

反过来说，如果你连 Python 基础语法和基本的数据处理都不熟，直接上这门课会很吃力——它默认你有一定的编码能力，重点放在大模型这条链路上，而不是从头教编程。

配套练习该怎么用

课件和实战项目是这门课的核心价值，但别把它当视频看完就完事。比较有效的用法是：每个模块讲完先自己复现一遍最简版本，再对照课件里的工程实现看差在哪。比如检索环节，先自己用几百条数据搭一个能跑的问答，感受一下切块大小、召回数量对答案的影响，再看课程里怎么处理。微调部分同理，先跑通一次小规模训练，观察损失和显存的变化，比单纯记参数有用得多。

练习中建议留一份自己的问题清单：哪个环节报错最多、哪个概念反复回看才懂。这份清单就是你真正的薄弱点，也是复习时的重点。

看完应该能回答的问题

学完之后，用这几个问题自测，能答上来才算过关：

• 一个文档问答系统答错了，你怎么判断问题出在切块、召回还是生成环节？
• 提示工程、RAG、微调分别在什么场景下更划算，成本和效果差在哪？
• 上下文窗口不够时，有哪几种处理思路，各自牺牲了什么？
• 把一个模型从本地跑通推到能对外服务，中间要过哪些关？

能把这些讲清楚，说明你已经不是只会调接口的水平了。缺什么补什么，别假装什么都会——这门课的价值也正在这里。