楼兰 - AI 大模型 RAG 系统实战课程 - Java 版

如果你已经能写 Java 业务代码，但一碰到"把大模型接进现有系统"就不知道从哪下手，这门课正好卡在这个缺口上。它不讲大模型怎么训练，也不讲 Transformer 的数学推导，讲的是：一个 Java 后端工程师，手上有一堆文档、一张数据库表、一个内部知识库，怎么让模型真的用起来。

先确认你缺的是哪一块

RAG（检索增强生成）这个词现在被说得太泛，很多人以为自己缺的是"提示词技巧"，其实缺的是三段里的中间一段——检索。模型本身能说会道，但它不知道你公司的报销标准、不知道你库表里的字段含义，硬问就是编。RAG 要解决的就是：先把相关资料找出来，再让模型基于这些资料回答。

这门课值得看的地方在于它用 Java 落地，而不是 Python 演示。LangChain4j、Spring AI 这些库的 API 形态、配置方式、和 Spring 容器的整合方式，是 Java 学习者真正会卡住的地方。你如果只会照抄 Python 示例，回到项目里照样写不出来。

需要提前具备的：Java 基础、Spring Boot 的基本用法、Maven 依赖管理。大模型相关的知识不要求，课程里有专门的部分讲 Huggingface 上各类模型怎么挑、Embedding 模型和对话模型有什么区别。

几个绕不开的具体问题

看之前可以先自测一下，下面这些问题你能答上几个：

• Embedding 到底把文本变成了什么？为什么向量距离能代表语义相近？
• 自然语言搜索和传统 SQL 模糊查询，差别在检索结果还是排序方式？
• 文档切分（chunk）切多大切多小，对最终回答质量影响在哪？
• 向量库选型时，内存版、本地文件版、独立服务版分别在什么场景用？
• 让模型调用你自己的 Java 方法（Tools / Function Calling），参数是怎么传进去、结果怎么回填的？
• 大模型回答"我不知道"和"胡说八道"，在 RAG 链路里分别该由哪一环负责兜住？

这些问题答不上来不丢人，但如果你一个都答不上，说明这门课的内容对你来说大部分是新的，得从头跟。如果一半以上有思路、只是没动手做过，那你的重点应该放在动手环节，而不是逐页看笔记。

课程覆盖到的能力面

从主题看，它的推进路线是先让你跑通第一个 LangChain4j 应用，理解模型调用、提示词模板、输出解析这条基本链路；然后进入 Embedding 和自然语言搜索，把"检索"这一环单独拆出来练；再到构建完整的企业智能问答系统，把检索和生成接起来。

后半段偏向工程整合：Spring AI 的接入方式、SQL 智能助手这类把模型接到结构化数据上的玩法、以及 Tools 机制——让模型在对话中主动调用你写好的 Java 方法去查数据、做计算。这部分是纯业务开发者和"只会调 API"的人之间的分水岭。

另外还有一块讲 Huggingface 上各种模型的认识和选择。看起来像科普，但实际做项目时，选错 Embedding 模型会导致检索质量差一截，而且换模型的成本不低，早点搞清楚比返工划算。

怎么用这份材料

建议不要按顺序通读。先扫一遍 Embedding 和自然语言搜索那部分，把"检索"这件事搞明白，这是 RAG 的地基。然后跳到 RAG 企业问答系统的构建过程，看一个完整链路是怎么串起来的，边看边在自己的 IDE 里敲。

Tools 和 SQL 智能助手这两块可以放在后面，它们属于"把 RAG 从问答扩展到能动手"的阶段，前提是你已经跑通过基础链路。如果时间紧，先保证能独立写出一个基于自己文档的问答 demo，再谈其他。

最后提醒一句：这类技术栈迭代快，API 名字和配置项可能和你看到材料时有出入，遇到报错先查官方文档和版本号，别硬套。学到的是链路思路，不是某一行代码。