很多人对大模型应用开发的理解停留在“会调 API 就行”,真到要做知识库问答或者让模型自己调工具,才发现缺的不是模型,是工程链路。这门课解决的就是这段链路:怎么把模型接进来、怎么让它查资料、怎么让它按步骤干活。下面按能力缺口拆开说,你可以对照自己的情况决定从哪一段开始看。

先确认:你是不是卡在这三个地方

  • 调过对话接口,但没处理过密钥管理、环境变量、模型切换,代码只能跑在自己电脑上。
  • 想让模型回答私有文档里的问题,试过把全文塞进提示词,结果超长、答不准、成本还高。
  • 听过 RAG 和 Agent 这两个词,但说不清检索、切分、向量、工具调用之间到底怎么串起来。

如果中了两条以上,这门课的内容和你现在的缺口是对得上的。它不铺大模型原理,重心放在“接得上、查得准、跑得通”这三件事上。

模型接入这一段,重点在环境而不是代码

课程从云端大模型接入讲起,用通义千问做第一个可运行的例子,接着讲怎么用环境变量保护 API Key——这一步看着小,但它是区分“玩具 demo”和“能提交到仓库的项目”的分界线。之后会转到本地模型,介绍 Ollama 并在 Windows 和 macOS 上分别部署,再用代码调用本地模型。

这一段值得留意的是云端和本地两条路的差异:延迟、成本、隐私、可控性各有什么取舍,什么场景该用哪个。看完你应该能回答:同一个业务需求,换成云端或本地模型,代码改动落在哪几行?API Key 泄露的真实风险是什么,环境变量解决了哪一部分?

RAG:让模型答你文档里的问题

检索增强生成是这门课的主线之一。它要解决的核心矛盾很直白:模型没读过你的资料,硬塞又塞不下。课程会带你把文档处理成可检索的片段,把问题转成向量去匹配,再把命中内容拼进提示词交给模型生成。

这里容易踩的坑不少:切分粒度太粗,检索回来的是一大段无关文字;切得太细,语义又被切断;检索命中但不相关,模型照样一本正经地编。配套练习建议你拿自己手头的一份真实文档——产品手册、内部规范、课程笔记都行——走一遍完整流程,再故意调一调切分参数,观察回答质量怎么变。这比跑通示例代码有用得多。

看完这一段,你应该能回答:为什么不能直接把整份文档丢给模型?检索结果不理想时,先调切分还是先调提示词?

Agent:从“会回答”到“会动手”

Agent 部分把模型从被动应答推到主动执行:给定目标,模型自己决定调用哪个工具、按什么顺序、拿到结果后下一步做什么。课程结合项目实战讲这套流程,包括提示词工程上的优化——怎么把任务描述清楚、怎么约束输出格式、怎么让模型在工具调用失败时给出可用的反馈而不是胡编。

这部分建议的练法是:先跑通给定的项目,然后把其中一个工具换成你自己写的函数,看模型能不能正确调用。如果你平时做的是后端或数据处理,这一步的体感会很直接——你其实是在给模型设计一套接口。

看完你应该能回答:Agent 和单纯的对话接口,在代码结构上差在哪?提示词写得含糊时,模型通常会在哪一步出问题?

学之前建议先具备什么

  • Python 基础:能读懂函数、类、异常处理,不然调试时会很被动。
  • 会发 HTTP 请求、看得懂 JSON 结构,这是接任何模型接口的前提。
  • 用过命令行,能照着文档装依赖、起本地服务。Ollama 部署这一段会用到。

缺哪块先补哪块,不用全补齐再开始。真正的门槛不在模型本身,而在你愿不愿意把一条链路从头到尾跑通一遍、再改坏它一次。

黑马程序员 AI大模型RAG与Agent智能体开发项目课

深入AI大模型与智能体开发

编辑点评

聚焦RAG与Agent智能体,理论与实践结合,助力AI应用开发。

⭐ 编辑推荐

本课程深入讲解AI大模型RAG与Agent智能体开发,涵盖环境搭建、模型接入、项目实战等,助你掌握AI应用开发核心技能。

课程亮点

• RAG与Agent智能体实战项目
• 大模型接入与调用
• 提示词工程优化

课程目录

📁 视频
    📁 P1前置准备
        03、使用环境变量保护APIKEY【优质资源‖关注:cunWorkNotes 解锁】.mp4  [125.9 MB]
        02、代码调用云端的大模型.mp4  [34.3 MB]
        01、通义千问大模型的接入.mp4  [40.7 MB]
        06、代码调用ollama的本地模型.mp4  [46.2 MB]
        04、Ollama简介.mp4  [74.5 MB]
        05、win&mac部署ollama并运行蒸馏模型.mp4  [137.5 MB]
    📁 P4RAG开发
        21、Memory临时会话记忆.mp4  [508.6 MB]
        24、JSONLoader.mp4  [256.3 MB]
        23、CSVLoader【优质资源‖关注:cunWorkNotes 解锁】.mp4  [249.4 MB]
        05、[扩展]余弦相似度算法.mp4  [236.3 MB]
        27、VectorStores向量存储.mp4  [378.9 MB]
        19、JsonOutputParser和多模型执行链【不易整理‖请关注:CunWorkNoteS】.mp4  [302.6 MB]
        25、TextLoader和文档分割器【资源精选‖更多关注:CunworkNotes】.mp4  [201.4 MB]
        09、LangChain消息的简写形式【资源精选‖更多关注:CunworkNotes】.mp4  [114.5 MB]
        16、[扩展]或运算符的重写【更多精选‖公众号:CunWorknotes】  .mp4  [226.5 MB]
        13、模板类的format和invoke方法.mp4  [229.9 MB]
        20、自定义函数加入链.mp4  [58.2 MB]
        14、ChatPromptTemplate的使用.mp4  [210.7 MB]
        15、Chain的基础使用.mp4  [287.0 MB]
        10、LangChain调用嵌入模型.mp4  [186.3 MB]
        28、基于向量检索构建提示词.mp4  [170.1 MB]
        11、LangChain通用提示词模板.mp4  [164.3 MB]
        18、StrOutputParser字符串输出解析器.mp4  [193.3 MB]
        02、LangChain的环境部署.mp4  [53.6 MB]
        12、FewShot提示词模板.mp4  [252.2 MB]
        07、LangChain模型的流式输出.mp4  [80.2 MB]
        01、LangChain的简介.mp4  [11.7 MB]
        04、[扩展]向量的基础概念.mp4  [283.3 MB]
        03、RAG介绍.mp4  [377.0 MB]
        17、简单理解Runnable接口.mp4  [128.5 MB]
        22、Memory长期会话记忆.mp4  [498.2 MB]
        26、PyPDFLoader.mp4  [115.2 MB]
        08、LangChain调用聊天模型.mp4  [202.7 MB]
        06、LangChain调用大语言模型.mp4  [120.8 MB]
        29、RunnablePassthrough的使用.mp4  [400.8 MB]
    📁 P5RAG项目
        09、RAG项目-聊天页面开发.mp4  [323.0 MB]
        07、RAG项目-rag服务核心代码开发.mp4  [246.2 MB]
        08、RAG项目-历史会话记录功能的实现.mp4  [423.9 MB]
        05、RAG项目-完成离线流程开发.mp4  [230.3 MB]
        02、RAG项目-文本上传WEB服务.mp4  [177.4 MB]
        06、RAG项目-在线流程向量存储服务代码.mp4  [172.6 MB]
        01、RAG项目案例介绍.mp4  [23.0 MB]
        03、RAG项目-md5工具函数开发.mp4  [263.8 MB]
        04、RAG项目-知识库更新服务.mp4  [300.7 MB]
    📁 P3提示词工程
        02、提示词优化案例介绍和零样本少样本思想.mp4  [141.5 MB]
        03、提示词优化案例_金融文本分类任务.mp4  [290.3 MB]
        05、提示词优化案例_金融文本信息抽取.mp4  [277.2 MB]
        04、Json数据格式.mp4  [204.2 MB]
        06、提示词优化案例_金融文本匹配.mp4  [204.6 MB]
        01、大模型prompt工程指南.mp4  [39.7 MB]
    📁 P2OpenAI库的基础使用
        02、OpenAI库的流式输出模式.mp4  [72.1 MB]
        03、OpenAI库附带历史消息调用模型.mp4  [64.7 MB]
        01、OpenAI库的基础使用.mp4  [51.7 MB]
    课程导学.mp4  [68.6 MB]
📁 资料
    📁 数据资料
        尺码推荐.txt  [487.0 B]
        pdf2【优质资源‖关注:cunWorkNotes 解锁】.pdf  [27.9 KB]
        洗涤养护.txt  [6.2 KB]
        stu.json  [163.0 B]
        颜色选择.txt  [3.3 KB]
        stu_json_lines.json  [151.0 B]
        info.csv  [526.0 B]
        Python基础语法.txt  [34.7 KB]
        stus.json  [171.0 B]
        pdf1.pdf  [292.3 KB]
        stu.csv  [331.0 B]
    📁 PyCharm
        📁 pj
            pj教程.txt  [86.0 B]
            jetbra.zip  [376.7 KB]
            key.txt  [2.6 KB]
        pycharm-2025.2.6.exe  [983.8 MB]
        pycharm-2025.2.6-aarch64.dmg  [1.2 GB]
    📁 Python
        python-3.10.11-macos11.pkg  [39.1 MB]
        python-3.10.11-amd64.exe  [27.7 MB]
    📁 Miniconda3
        Miniconda3-latest-Windows-x86_64.exe  [90.0 MB]
        Miniconda3-latest-MacOSX-x86_64.pkg  [112.3 MB]
        Miniconda3-latest-MacOSX-arm64.pkg  [115.4 MB]
📁 PPT
    03RAG项目.pptx  [2.2 MB]
    02大模型RAG开发.pptx  [6.9 MB]
    01提示词工程.pptx  [12.4 MB]

适合人群

  • AI开发者
  • 机器学习工程师
  • 数据科学家

学习收获

掌握RAG与Agent智能体开发
实现AI应用项目实战
提升AI应用开发能力

祝您学习愉快!

学有所成,前程似锦!