A/B 测试的“分流比例”和“A/B 分配比例”有什么区别?正确的设计思路
HeatMapX Engineering Team4 min read
- ab-testing
- cro
- how-to
本文要点
- “分流比例” = 在全部访客中,有多少百分比会被纳入实验
- “A/B 分配比例” = 在被纳入实验的访客中,A 和 B 以怎样的比例展示
- 这两者是完全不同的概念。分开考虑,就能在控制风险的同时进行验证
在设置 A/B 测试时,会出现两个“比例”设置,容易让人混淆,那就是“分流比例(纳入实验的比例)”和“A/B 分配比例”。这两者的含义完全不同。只要分开理解,就能安全地推进验证。
“分流比例”是什么:让多少人参与实验
分流比例(纳入实验的比例)指的是在全部访客中,有多少百分比会被纳入实验对象。
- 设为 100%,则所有访客都会看到 A 或 B 中的一个版本。
- 设为 20%,则只有两成访客会被纳入实验对象,其余八成访客看到的是正常页面(保持原样)。
缩小分流比例的目的在于风险管理。对于效果难以预估的改动,一开始就投放给所有人是很冒险的。可以先只对一部分人进行测试,确认没有问题后再逐步扩大范围。
“A/B 分配比例”是什么:A 和 B 以怎样的比例展示
A/B 分配比例指的是在被纳入实验对象的访客中,A 和 B 以怎样的比例展示。
- 50% 对 50% 是最基本的设置。这样可以公平地进行比较,也能更快收集到所需数据。
- 如果对改动还不太放心,也可以让 A(原版本)占比更高、B(改动后版本)占比更低,谨慎地进行投放。
两者组合起来会怎样?
举例来说,“分流比例 20%、A/B 分配比例 50:50”会呈现如下结果。
| 访客 | 比例 |
|---|---|
| 未纳入实验(正常页面 = 保持原样) | 80% |
| 纳入实验且看到 A(Control) | 10% |
| 纳入实验且看到 B(Variant B) | 10% |
由此可见,重点在于可以独立决定“纳入多少人(分流比例)”和“对象内部如何展示(A/B 分配比例)”。
为什么分开考虑更好
如果把分流比例和 A/B 分配比例合并成一个设置,“控制风险”和“公平比较”这两个不同目的就会混在一起,导致设置变得难以理解。
将两者分开后,就可以做到:
- 用分流比例来调节风险大小,
- 用 A/B 分配比例来保持比较的公平性,
从而针对不同目的分别进行直观的设置。这也是主流 A/B 测试工具普遍采用的思路。
HeatMapX 的设计
在 HeatMapX 的 A/B 测试中,同样可以将“纳入实验的比例(分流比例)”与“A/B 分配比例”分开设置。可以先把分流比例调小以安全地进行测试,再根据效果逐步扩大范围。
总结
“分流比例”决定了让多少人参与实验,“A/B 分配比例”决定了在实验对象内部 A 和 B 如何展示。将这两者分开考虑,正是在控制风险的同时正确完成验证的关键。