核心痛点与能力缺口
概率图模型(PGM)解决的核心痛点是“高维联合分布的表示与推断”。纯深度学习擅长拟合数据,但缺乏可解释性且难以处理缺失值;传统统计方法虽严谨,却难以应对复杂的非线性依赖。PGM 通过图结构将变量间的条件独立关系显式化,让你既能利用贝叶斯推理进行不确定性量化,又能借助图算法(如变量消除、团树算法)降低计算复杂度至可行范围。这门课填补的是:如何从结构化假设出发,高效地建模、推断和学习高维随机变量的联合分布,这是构建可解释 AI 和复杂系统建模的必备基石。
门槛要求与学习路径建议
先决条件:你必须熟练掌握线性代数(矩阵运算、特征值分解)和概率统计(条件概率、全概率公式、贝叶斯定理、多元正态分布性质)。若这些基础薄弱,建议先复习相关章节再入场。建议学习顺序:第一步,夯实基础,深入理解条件独立性、马尔可夫性质及其在图中的语义,这是后续所有算法的根基。第二步,攻克有向图,重点掌握贝叶斯网络的结构语义、联合分布分解及局部马尔可夫性。第三步,转向无向图,理解马尔可夫随机场、势函数与 Gibbs 分布的关系,注意区分有向与无向图在因分解解上的本质差异。第四步,核心算法,精研精确推断(变量消除、团树算法)和近似推断(吉布斯采样、变分推断),并学习参数学习(EM 算法、最大似然估计)。关键提醒:不要在图论定义上停滞,尽快进入代码实现,通过动手推导和编程来内化抽象概念。
学完能做什么与资料配合方法
独立产出:课程结束后,你能独立设计贝叶斯网络或条件随机场(CRF)模型,解决文本分类、生物序列标注、推荐系统等实际问题。具体包括:根据领域知识构建图结构、推导条件概率分布、编写精确或近似推断算法代码、利用观测数据学习模型参数。资料配合练习:必须手动推导至少三个经典案例(如天气预报、报警系统、医学诊断)的联合概率和条件概率,验证公式推导的准确性。务必运行代码,实现变量消除和吉布斯采样,对比精确解与近似解的误差,观察样本量对收敛性的影响。挑战扩展:尝试修改现有代码,实现简单的团树算法消息传递机制,或处理包含缺失值的推断问题。最终目标是能手写简化版 PGM 推理引擎,而非仅依赖现成库函数,从而真正理解算法背后的计算图谱。





