AB test,简单讲就是要达成同一个目标,用不同的方式,每种方式给予足够多的样本去测试,最终得出哪种方式是最优解。
一、什么是AB测试A/B 测试的概念来源于生物医学的双盲测试,双盲测试中病人被随机分成两组,在不知情的情况下分别给予安慰剂和测试用药,经过一段时间的实验后再来比较这两组病人的表现是否具有显著的差异,从而决定测试用药是否真的有效。
在做产品的过程中,A/B 测试是一种产品优化的方法,为同一个优化目标制定两个方案(比如两个页面),让一部分用户使用A 方案,同时另一部分用户使用 B 方案,统计并对比不同方案的转化率、点击量、留存率等指标,以判断不同方案的优劣并进行决策。
2000年Google的工程师第一次将A/B测试用于测试搜索结果页展示多少搜索结果更合适,虽然那次的AB测试因为搜索结果加载速度的问题失败了,但是这次的A/B测试可以认为是Google的第一次AB测试。从那以后,A/B测试被广泛应用于互联网公司的优化迭代, 每年数万个AB实验被Google、Amazon、eBay、阿里等主流互联网公司应用于线上进行UI内容优化、算法优化、收益优化等方方面面。
二、为什么要做A/B 测试?A方案和B方案主观上各有优劣,无法判断,选取一部分用户样本,做AB测试,根据上线之后的数据表现,来决定哪个更好。
有了A/B测试,产品的优化过程就可以看作两个阶段。
第一个阶段是后验的,通过统计分析目前的用户行为和系统指标来判断产品的哪些地方可以做改进,比如是注册页面流失率太高需要优化?还是购物车报废率太高需要改进?
第二个阶段就是试验,尝试改进这些产品的薄弱环节。比如是不是可以在注册流程里增加一个送优惠券环节?是不是可以精简一下购物车付款的流程?要不要改写文案?要不要替换图片?这就需要对可能的决策进行A/B测试评估,只有那些被试验数据证明了真正有改进效果的那些决策才会被真正实施。
三、AB测试原理AB测试最核心的原理,就四个字:假设检验。检验我们提出的假设是否正确。对应到AB测试中,就是检验实验组&对照组,指标是否有显著差异。
在AB测试中,零假设是:实验组&对照组 指标相同,无显著差异;备选假设则相反,实验组&对照组 指标不同,有显著差异。
举个例子。我们优化了某算法,想提高页面的点击率。针对这个场景的AB测试,零假设就是 新算法&老算法的页面点击率无明显差异,备选假设是 新算法&老算法的页面点击率有显著差异。
四、Google Ads AB测试的设置教程1. 点击Google Ads账户左下角的“草稿和实验”
2. 新建草稿
3. 选择要测试的广告系列