应用火山引擎 DataTester“避坑”,抖音实现用 A/B 实验快速试错

A/B测试

更多技术交流、求职机会,欢迎关注字节跳动数据平台微信公众号,回复【1】进入官方交流群

A/B 测试产品可以说是企业科学决策的基础“设施”,能够帮助企业快速迭代产品。

在字节跳动,每一个产品功能上线前,都会先在火山引擎 A/B 测试产品 DataTester 上进行小流量验证,结合业务逻辑对结果的分析理解策略生效过程,而后再对方案进行修正、尝试创新,推动整个产品和业务的持续迭代。

抖音上,早期有一个功能“弹幕”功能设想,目的是强化熟人社交的互动性,产品团队希望围绕熟人社交进行功能拓展,以激励用户多看视频、多发作品。

产品团队借鉴长视频的弹幕功能提出了一个想法——在抖音短视频中增加弹幕互动的功能,当用户观看熟人(好友)的短视频作品时,该视频的相关评论通过弹幕的形式展示,让用户有更多的互动机会并感受互动的快乐。

这个功能设计初衷是很好的,但它对于产品所带来的影响是正向还是负向,需要通过 A/B 实验进行评估验证。DataTester 就帮助团队快速试错,避免了不合适的功能上线后为产品带来的负向影响。

如图所示,该团队在 DataTester 中设计了这样一个实验:

picture.image

  • 图一是对照组,产品界面维持抖音原样,没有弹幕功能。

  • 图二是实验组 1,由于弹幕功能对抖音而言是大型改动,会直接影响产品主界面布局,所以产品团队在实验组 1 中做了一个激进的尝试,他们将视频的文字描述区域全部去掉,替换为弹幕互动功能;与此同时,为了界面的美观简洁,将抖音右侧原本的互动区收入了“更多”的按钮中。

  • 图三是实验组 2,为了减少产品改动过大对用户带来的不确定影响,这个版本的产品设计保留了产品原有的互动等其它功能。

从 DataTester 的实验结果数据看,两个实验组的互动率确实有着显著提升,达到了功能设计时“提升互动率”的初衷。但观察新方案对抖音大盘核心指标影响时发现,这个功能对抖音整体视频的浏览量、用户投稿率、用户整体留存率均有负向影响,上述指标均出现了不同程度的下降。A/B 实验清晰地表明,这个功能虽然能提升抖音的互动率,但却不利于用户的整体使用与留存。因此这个看上去很好的改动并未在抖音全量上线。

之后,抖音围绕弹幕类的产品优化探索并未停止,通过更多次的假设与 A/B 实验验证,这个功能后来加入了抖音的个人页位置中。当它被放在了恰当的位置,也能为产品的指标带来正向的提升。从这个案例中也可以看到,DataTester 起到了帮助业务实现科学决策的能力,业务能够大胆创新的同时,也能科学验证每次创新是否真正有效。

像这样的 A/B 实验,在字节跳动已经开启了 150 多万次,每天都有 2000 多个新的实验上线,在 DataTester 上同时运行的实验有 3 万多个。

作为字节跳动内部使用多年的 A/B 测试平台,DataTester 有支持多种复杂 A/B 实验的能力和科学的分流能力。它能够深度耦合推荐、广告、搜索、UI、产品功能等多种业务场景需求,为业务增长、转化、产品迭代,策略优化,运营提效等各个环节提供科学的决策依据。

目前,火山引擎 DataTester 已经对外服务了美的、得到、凯叔讲故事等在内的上百家标杆客户,将成熟的 " 数据驱动增长 " 经验赋能给各行业。

点击跳转 火山引擎A/B测试DataTester 了解更多

39
0
0
0
相关产品
评论
未登录
看完啦,登录分享一下感受吧~
暂无评论