开启一个 A/B 实验到底有多简单?

A/B测试

更多技术交流、求职机会,欢迎关注字节跳动数据平台微信公众号,回复【1】进入官方交流群

火山引擎 A/B 测试平台 DataTester 孵化于字节跳动业务内部,在字节跳动,“万事皆 A/B,一切可度量” 的实验理念广为流传,小到一条站外推送的消息,大到整个技术底层架构的优化修改,都会做 A/B 测试,甚至今日头条、抖音、西瓜视频等诸多产品的取名,也都和 A/B 测试有关。

那么如何使用 A/B 测试平台开启一个实验呢?不同于外界对于 A、B 实验操作复杂的认知,其实使用火山引擎 DataTester 开启 A/B 实验的操作十分简单:

picture.image

实验初始时接入 A/B 测试,主要也是 SDK 的接入,这种接入布置只需要一次,后续就可以直接使用平台了。

在接入完成之后,开启实验会有 9 个环节,包括“发现问题、提出假设、设计实验、功能开发,创建实验、收集数据、分析评估、得到结论、发布上线”,其中最后 5 个环节,使用 DataTester 可以智能化完成,所以用户其实只需要关注设计实验的环节,其他均可以交由 DataTester 一站式智能化处理完成。

具有字节特色的 DataTester 总结下来有以下六大亮点:

1.DataTester 是一站式的通用的平台,不限实验的数量,并且可以支持正交和互斥两类的实验,同时还提供了一些高级功能,比方父子实验,还有些动态流量的一些智能实验。

2.DataTester 可以适配非常多通用的场景模板,例如一些编程类的实验。同时为了降低实验的门槛,衍生了一系列实验模板,可以通过可视化配置来进行实验的配置。同时 DataTester 还有一些垂类场景,例如推送、站点 UI 优化、MVT 的实验、广告类的实验、广告增项度能力的实验等都有一些相应的实验的模板,用户可以直接使用,大降低了实验或学习的成本。

3.DataTester 有稳定可靠的分流机制。只有科学的随机分流或较稳定可靠的分流的结果,才能保证实验结论的可信度,因此可靠的分流机制十分重要。DataTester 通过 10 亿级 DAU 打磨验证,既稳定又可以支持高并发,并且还有非常多灵活的分流机制,可以支持非常多的一些实验的功能。

4.DataTester 具有强大灵活的人群定向的能力,可以支持 SDK 上报的属性事件流,还有用户画像标签的人群筛选,可以通过这些来进行人群定向。这些人群定向不仅可以支持实验的定向圈人,也可以支持 Feature Flag 发布的定向圈人。

5.DataTester 除了实验报告之外,还额外提供了分析工具,可以帮助用户快速评估实验,用更好的结论来进行决策。

6.DataTester 的实验报告和分析能力都是基于科学智能的评估策略的。 DataTester 使用的统计策略跟字节跳动内部使用的是完全相同的,有两套分场景应用的评估框架并行在使用,而普通的 A/B 测试都是基于经典假设检验的。

目前,在外部客户的服务上,DataTester 已覆盖推荐、广告、搜索、UI、产品功能等业务场景,提供从实验设计、实验创建、指标计算、统计分析到最终评估上线等贯穿整个实验生命周期的服务。来自得到、美的、凯叔讲故事 APP 等企业客户,已经通过火山引擎 DataTeser 开启了用数据驱动科学决策的道路。

点击跳转 火山引擎A/B测试DataTester了解更多

77
0
0
0
相关产品
评论
未登录
看完啦,登录分享一下感受吧~
暂无评论