大模型直播课第四期

这门课解决什么问题

如果你已经能调用大模型接口、写过几段 Prompt，却在真实项目里反复卡壳——检索结果答非所问、多轮对话记不住上下文、上线后成本失控、评估指标说不清楚——那这门第四期直播课针对的就是这些具体缺口。它不从「什么是 Transformer」讲起，而是假设你已经动手用过模型，接下来要补的是把它们接进业务系统的那一层能力。

反过来说，如果你还没写过一次 API 调用、没调过参数、没看过一次完整的返回结构，这门课的前半段会让你觉得跳跃。建议先自己跑通一个最小问答脚本再来。

三个能力缺口，对应三块内容

缺口一：只会调接口，不理解模型为什么这样回答

LLM 原理部分不做数学推导，重点落在能被工程决策用上的地方：上下文窗口怎么影响分块策略、温度与采样参数在什么场景该收紧、模型为什么会「一本正经地胡说」、幻觉在架构层面能压制到什么程度。学完你应当能回答：同一个问题换不同参数，输出差异从哪来，我该怎么选。

缺口二：Prompt 靠试，改一次崩一次

Prompt 设计不是收集「神奇咒语」。这里会讲结构化的写法：角色、约束、示例、输出格式各自承担什么职责，少样本示例怎么选才不引入偏差，以及当输出要被下游程序解析时，怎么把格式约束写死。配套练习通常是从一个能跑但结果不稳定的 Prompt 出发，逐步收敛到可复现的版本。看完你应当能回答：我的 Prompt 不稳定，是模型的问题还是我约束没写清。

缺口三：知识更新和私有数据接不进去

RAG 是这门课的重头。切分粒度、向量化选型、召回与重排的取舍、召回不准时先查哪一环、如何避免模型无视检索结果自己编——这些是实际落地时最耗时间的部分。它不会停在「把文档丢进向量库」这一步，而是带你走完从原始文档到可控回答的链路，并讨论检索增强和微调各自适合什么场景、什么时候不该用 RAG。

结合企业场景的部分

案例讲解偏向真实约束：数据不能出内网怎么办、响应延迟有硬指标时架构怎么调、多轮对话的状态怎么管、上线后怎么判断效果变好还是变差。这些问题的答案往往不是「换个更大的模型」，而是工程上的取舍。对技术团队来说，这部分的价值在于提前知道坑在哪，而不是上线后再回头补。

适合谁，不适合谁

• 适合：已经用过大模型接口，需要把它做成稳定产品的开发者；负责技术选型、需要判断 RAG 与微调边界的团队负责人；能读懂 Python 和基本 HTTP 交互的学习者。
• 不适合：完全零基础、还没写过一次调用的初学者；只想了解概念、不打算动手的人。

直播形式意味着你可以带着自己项目里的具体问题进来。建议在开课前先整理一份「我当前卡在哪」的清单——是召回不准，还是输出不可控，还是成本压不下来。带着问题听，比空手听完再回头找对应章节效率高得多。

看完应能回答的问题

• 我的场景该用 Prompt 工程、RAG 还是微调，判断依据是什么？
• 检索结果明明相关，模型却答偏了，问题出在召回、重排还是生成环节？
• 怎么设计一套能说明「这次改动确实变好了」的评估方式？
• 上线后延迟和成本超标，有哪些可调的杠杆？

如果这些问题你现在答不上来，那正是要补的部分。