拒绝“玄学”上线:如何跑通一个能指导决策的 A/B 测试

很多团队在做 A/B 测试时,最大的痛点不是不会写代码,而是根本不知道什么时候该测、怎么测才科学,导致上线后要么毫无数据波动,要么因为统计错误得出误导性结论。这门课专门解决从“拍脑袋决定改哪个按钮”到“用数据驱动产品迭代”的能力缺口,带你彻底理清 A/B 测试的底层逻辑与执行规范。它不教你拍脑袋的决定,而是提供一套可复用的科学实验框架,让你在面对不确定性时,能依靠数据做出可信的决策,而不是被直觉带偏。

适合零基础入坑,建议先看哪几块?

课程结构层层递进,建议严格按照目录顺序学习,切勿跳步。开篇词先帮你建立正确的学习认知,打破“测就是上线”的误区。紧接着必须死磕统计篇,这是整个体系的地基。如果你连假设检验的 P 值、显著性水平(α)、功效(Power)这些概念都云里雾里,直接跳到后面的流程篇只会让你在实践中不断踩雷,比如把随机波动误判为显著效果,或者因为样本量不足导致实验失败。只有统计直觉建立好了,后续的实验设计才站得住脚,否则再好的流程也是空中楼阁。

学完能独立做什么,资料怎么配合练习?

学完这套体系,你应能独立负责一个完整的实验项目:从根据业务痛点确定核心假设,到科学选取指标(区分北极星指标与干扰项),再到精确计算样本量并设计分流方案。最关键的是,你能独立分析测试结束后的数据,判断结果是否显著,并正确解读置信区间,从而给出明确的上线或回滚建议。 资料包里的课程目录对应了从理论到实战的完整闭环。在自学过程中,请务必对照“进阶篇”中的避坑指南进行复盘。例如,当你发现测试结果不显著时,不要盲目扩大样本量,而应参考课程中关于多重检验问题、样本量计算不足等常见误区的解析,去排查是统计功效不够,还是实验设计本身有缺陷。通过理论推导结合目录中的案例分析,你将掌握一套可落地的 A/B 测试执行 SOP,不再被数据牵着鼻子走,真正具备独立开展数据驱动实验的能力。

课程目录

开篇词 (1讲)

  1. 开篇词|用好A_B测试,你得这么学

统计篇:A_B测试的前提与理论基础 (2讲)

  1. 01 _ 统计基础(上):系统掌握指标的统计属性
  2. 02|统计基础(下):深入理解A_B测试中的假设检验

基础篇:从0到1,带你建立规范的A_B测试流程 (7讲)

  1. 03|确定目标和假设:好的目标和假设是什么?
  2. 04|确定指标:指标这么多,到底如何来选择?
  3. 05|选取实验单位:什么样的实验单位是合适的?
  4. 06 _ 选择实验样本量:样本量越多越好吗?
  5. 07| 分析测试结果:你得到的测试结果真的靠谱吗?
  6. 08 _ 案例串讲:从0开始,搭建一个规范的A_B测试框架
  7. 导读 _ 科学、规范的A_B测试流程,是什么样的?

进阶篇:怎么在A_B测试的实践中避坑 (7讲)

  1. 09 |测试结果不显著,要怎么改善?
  2. 10|常见误区及解决方法(上):多重检验问题和学习效应
  3. 11 _ 常见误区及解决方法(下):辛普森悖论和实验组_对照组的独立性
  4. 12|什么情况下不适合做A_B测试?
  5. 13|融会贯通:A_B测试面试必知必会(上)
  6. 14|举一反三:A_B测试面试必知必会(下)
  7. 15|用R_Shiny,教你制作一个样本量计算器

结束语 (3讲)

  1. 加餐|试验意识改变决策模式,推动业务增长
  2. 结束语|实践是检验真理的唯一标准
  3. 结课测试题|这些A_B测试的知识你都掌握了吗?