知乎AI大模型全栈工程师第10期

如果你已经会调 OpenAI 或国内某家模型的接口，能写出一句「请帮我总结这段文字」，但真要做一个能上线的问答系统时却卡在检索召回差、答案乱编、成本失控上，那这门课对你有用。它不讲「大模型改变世界」，它讲的是从原理到落地之间那段没人替你走的路。

先确认你到底缺哪一块

大模型应用岗的面试和实际工作，问的往往不是「什么是 Transformer」，而是几个很具体的问题：为什么你的 RAG 召回了不相关内容？Embedding 模型该怎么选、怎么评估？Prompt 里加了思维链为什么反而变差？Agent 调用工具失败时怎么兜底？这些问题背后是四块能力——检索、向量、提示词、智能体编排，任何一块空着，项目都跑不顺。

这门课的第 10 期把这几块拆开讲，先讲模型基本原理，让你知道 token、上下文窗口、注意力机制这些概念为什么会影响你后面所有的工程决策，再进入 RAG、Embedding、Prompt、Agent 的实操。顺序不是随便排的：不懂原理，调参就是碰运气。

RAG 是重点，也是最容易做砸的地方

很多人对 RAG 的理解停留在「把文档切块、存进向量库、相似度搜出来塞进 Prompt」。真做起来会发现：切块粒度不对，召回全是碎片；只做向量检索，遇到专有名词就废；没有重排，Top5 里三条是噪声。这门课在这条链路上花的时间最多，从文档解析、切分策略、Embedding 选型到向量库检索、重排、生成，每一环都有可对照的做法。

学的时候建议带着自己的场景——公司文档、产品手册、课程资料都行。跟着做完一遍，再换成自己的数据重跑，你会发现参数根本不是通用的，这一步比看视频重要。

Prompt 和 Agent：写得好和跑得稳是两回事

提示词工程不是背模板。同样的任务，结构化输出、角色约束、few-shot 示例的排列方式不同，效果差很多。课里会给到可复用的写法，但更值得关注的是它怎么验证——怎么判断改完这一版是真变好了还是碰巧。

Agent 部分涉及工具调用、任务拆解和失败重试。这里要提醒一句：Agent 目前在生产环境里远没有演示视频那么美好，幻觉、死循环、成本飙升是常态。学的时候重点看它怎么设计兜底和边界，而不是照着 demo 抄一个能跑的。

看完应该能回答的问题

• 为什么同一个问题，换一个 Embedding 模型召回结果差这么多？怎么选？
• RAG 系统里，检索和生成哪个环节更该先优化？
• Prompt 里的 few-shot 示例放几条合适，放多了会怎样？
• Agent 调用工具返回异常时，你的系统应该怎么处理？
• 一个能跑通的企业知识库问答，最小可用的技术栈是什么？

如果这五个问题你现在答不全，就按顺序学；如果只卡在其中一两个，可以跳着看对应章节，但别跳过第一课的原理部分——面试官追问细节的时候，那里是露馅最快的地方。笔记记得自己重写一遍，抄的笔记在复盘时基本没用。