如果你已经能调通一个大模型接口,却还不知道怎么让它回答公司内部的规章制度,或者让它自己拆解任务、调用工具、把活干完,这门课就是补这块的。RAG 和 Agent 是两件事:前者解决"模型不知道你的私有数据",后者解决"模型只能聊天、不能干活"。两件事常常被混在一起讲,学完还是不知道边界在哪。这里按它们的实际分工来拆。

先说清楚你缺的是哪一块

只会写 prompt、只会调 API 的人,通常卡在三个地方。第一,模型的知识停在训练截止那天,问它内部文档、最新价格、自家产品参数,它要么编要么拒答。第二,上下文窗口再大也塞不下整库资料,硬塞既贵又慢,还容易被无关内容带偏。第三,模型本身没有手,不能查库、不能发请求、不能按步骤执行,遇到多步任务就只会给你一段"你可以这样做"的文字。

RAG 对应前两个问题:把资料切片、向量化、存进向量库,提问时先检索再让模型基于检索结果作答,把"凭记忆答"换成"看着材料答"。Agent 对应第三个问题:让模型自己决定调用哪个工具、按什么顺序、拿到结果后怎么继续。这两条线各有各的坑,检索召回不准、切片粒度不对、工具描述写得含糊、循环停不下来,都是真做项目才会撞上的。

环境这块别跳过

课程从接入云端模型和本地部署两条路都走一遍。云端的部分涉及 API Key 怎么管理——不要硬编码进代码、不要提交到仓库,用环境变量隔离,这是最基本也最常被忽略的一条。本地这条线用 Ollama 跑模型,Windows 和 Mac 的部署方式不一样,坑也不同:显存够不够、模型量化版本怎么选、跑起来响应慢是正常的还是配置错了。这些不提前踩一遍,后面调试检索和 Agent 时你会分不清是逻辑问题还是环境问题。

建议这一段不要倍速。云端和本地各跑通一次对话,确认你能自由切换模型来源,再往下走。

RAG 的重点在检索质量,不在框架

很多人学 RAG 的第一反应是找一个现成框架,几行代码拼出一个问答机器人,跑通就以为会了。真正的难点在后面:文档怎么切,切多大,重叠多少;向量模型选哪个,中文效果差多少;检索出来 top-k 设几,召回了无关内容模型会不会被带偏;用户问"上个月的政策"这种带时间和指代的问题,检索能不能命中。

学这门课的时候,每改一个参数都拿同一组问题去测,记录回答变化。你会逐渐建立起一个判断:什么时候是检索没召回,什么时候是召回了但模型没用好,什么时候是资料本身就没有答案。这个判断力比会调框架重要得多。

Agent 要盯住的是"失控"

Agent 的核心是让模型输出结构化的决策——调哪个工具、传什么参数,然后由代码去执行、把结果喂回去。听起来简单,实际最常出问题的是:模型编造一个不存在的工具名;参数格式不对导致调用失败;任务已经完成还在继续循环;或者工具报错后模型不知道怎么办,反复重试同一个错误。

所以写 Agent 时,工具的描述要写清楚用途和参数含义,执行层要做好校验和异常兜底,循环要有步数上限和终止条件。这些不是"优化项",是能不能跑起来的前提。课程里的项目会把 RAG 和 Agent 串起来——检索作为 Agent 可调用的一个工具,或者 Agent 负责决定什么时候去检索。这个组合是当前很多实际应用的形态,值得认真跟一遍。

学完应该能回答这几个问题

  • 给你一批内部文档,你怎么设计切片和检索方案,怎么验证它答得对?
  • 模型答错了,你怎么判断是检索的问题还是生成的问题?
  • 一个 Agent 需要调用三个工具完成一个任务,你怎么定义工具、怎么防止它陷入死循环?
  • 云端模型和本地模型,什么场景下你会选哪个,代价分别是什么?

如果这几个问题你现在答不上来,说明缺的正是这门课覆盖的部分。跟着项目敲一遍,别只看。看完能自己从零搭一个能用的小应用,才算真的补上了。

黑马程序员 -AI大模型RAG与Agent智能体开发项目课

掌握RAG与Agent智能体开发,打造智能应用

编辑点评

深入探索AI大模型RAG与Agent智能体技术,项目驱动学习,实战性强。

⭐ 编辑推荐

本课程从基础环境搭建到项目实战,带你全面掌握AI大模型RAG与Agent智能体开发。

课程亮点

• RAG与Agent智能体实战项目
• 大模型技术深度解析
• 项目驱动学习

课程目录

📁 视频
    📁 P1前置准备
        03、使用环境变量保护APIKEY【优质资源‖关注:cunWorkNotes 解锁】.mp4  [125.9 MB]
        02、代码调用云端的大模型.mp4  [34.3 MB]
        01、通义千问大模型的接入.mp4  [40.7 MB]
        06、代码调用ollama的本地模型.mp4  [46.2 MB]
        04、Ollama简介.mp4  [74.5 MB]
        05、win&mac部署ollama并运行蒸馏模型.mp4  [137.5 MB]
    📁 P4RAG开发
        21、Memory临时会话记忆.mp4  [508.6 MB]
        24、JSONLoader.mp4  [256.3 MB]
        23、CSVLoader【优质资源‖关注:cunWorkNotes 解锁】.mp4  [249.4 MB]
        05、[扩展]余弦相似度算法.mp4  [236.3 MB]
        27、VectorStores向量存储.mp4  [378.9 MB]
        19、JsonOutputParser和多模型执行链【不易整理‖请关注:CunWorkNoteS】.mp4  [302.6 MB]
        25、TextLoader和文档分割器【资源精选‖更多关注:CunworkNotes】.mp4  [201.4 MB]
        09、LangChain消息的简写形式【资源精选‖更多关注:CunworkNotes】.mp4  [114.5 MB]
        16、[扩展]或运算符的重写【更多精选‖公众号:CunWorknotes】  .mp4  [226.5 MB]
        13、模板类的format和invoke方法.mp4  [229.9 MB]
        20、自定义函数加入链.mp4  [58.2 MB]
        14、ChatPromptTemplate的使用.mp4  [210.7 MB]
        15、Chain的基础使用.mp4  [287.0 MB]
        10、LangChain调用嵌入模型.mp4  [186.3 MB]
        28、基于向量检索构建提示词.mp4  [170.1 MB]
        11、LangChain通用提示词模板.mp4  [164.3 MB]
        18、StrOutputParser字符串输出解析器.mp4  [193.3 MB]
        02、LangChain的环境部署.mp4  [53.6 MB]
        12、FewShot提示词模板.mp4  [252.2 MB]
        07、LangChain模型的流式输出.mp4  [80.2 MB]
        01、LangChain的简介.mp4  [11.7 MB]
        04、[扩展]向量的基础概念.mp4  [283.3 MB]
        03、RAG介绍.mp4  [377.0 MB]
        17、简单理解Runnable接口.mp4  [128.5 MB]
        22、Memory长期会话记忆.mp4  [498.2 MB]
        26、PyPDFLoader.mp4  [115.2 MB]
        08、LangChain调用聊天模型.mp4  [202.7 MB]
        06、LangChain调用大语言模型.mp4  [120.8 MB]
        29、RunnablePassthrough的使用.mp4  [400.8 MB]
    📁 P5RAG项目
        09、RAG项目-聊天页面开发.mp4  [323.0 MB]
        07、RAG项目-rag服务核心代码开发.mp4  [246.2 MB]
        08、RAG项目-历史会话记录功能的实现.mp4  [423.9 MB]
        05、RAG项目-完成离线流程开发.mp4  [230.3 MB]
        02、RAG项目-文本上传WEB服务.mp4  [177.4 MB]
        06、RAG项目-在线流程向量存储服务代码.mp4  [172.6 MB]
        01、RAG项目案例介绍.mp4  [23.0 MB]
        03、RAG项目-md5工具函数开发.mp4  [263.8 MB]
        04、RAG项目-知识库更新服务.mp4  [300.7 MB]
    📁 P3提示词工程
        02、提示词优化案例介绍和零样本少样本思想.mp4  [141.5 MB]
        03、提示词优化案例_金融文本分类任务.mp4  [290.3 MB]
        05、提示词优化案例_金融文本信息抽取.mp4  [277.2 MB]
        04、Json数据格式.mp4  [204.2 MB]
        06、提示词优化案例_金融文本匹配.mp4  [204.6 MB]
        01、大模型prompt工程指南.mp4  [39.7 MB]
    📁 P2OpenAI库的基础使用
        02、OpenAI库的流式输出模式.mp4  [72.1 MB]
        03、OpenAI库附带历史消息调用模型.mp4  [64.7 MB]
        01、OpenAI库的基础使用.mp4  [51.7 MB]
    课程导学.mp4  [68.6 MB]
📁 资料
    📁 数据资料
        尺码推荐.txt  [487.0 B]
        pdf2【优质资源‖关注:cunWorkNotes 解锁】.pdf  [27.9 KB]
        洗涤养护.txt  [6.2 KB]
        stu.json  [163.0 B]
        颜色选择.txt  [3.3 KB]
        stu_json_lines.json  [151.0 B]
        info.csv  [526.0 B]
        Python基础语法.txt  [34.7 KB]
        stus.json  [171.0 B]
        pdf1.pdf  [292.3 KB]
        stu.csv  [331.0 B]
    📁 PyCharm
        📁 pj
            pj教程.txt  [86.0 B]
            jetbra.zip  [376.7 KB]
            key.txt  [2.6 KB]
        pycharm-2025.2.6.exe  [983.8 MB]
        pycharm-2025.2.6-aarch64.dmg  [1.2 GB]
    📁 Python
        python-3.10.11-macos11.pkg  [39.1 MB]
        python-3.10.11-amd64.exe  [27.7 MB]
    📁 Miniconda3
        Miniconda3-latest-Windows-x86_64.exe  [90.0 MB]
        Miniconda3-latest-MacOSX-x86_64.pkg  [112.3 MB]
        Miniconda3-latest-MacOSX-arm64.pkg  [115.4 MB]
📁 PPT
    03RAG项目.pptx  [2.2 MB]
    02大模型RAG开发.pptx  [6.9 MB]
    01提示词工程.pptx  [12.4 MB]

适合人群

  • AI开发者
  • 算法工程师
  • 对AI技术感兴趣的学习者

学习收获

掌握RAG与Agent智能体开发技术
搭建智能应用
提升AI项目实战能力

祝您学习愉快!

学有所成,前程似锦!