a/b testing

资源来自udacity

1.ab testing不能做的事？

新的实验
丢失了一些数据

ab可以做的事情

测试

2.商业案例分析

image.png

左边的这个漏斗式 不会是一步接着一步发生，有时会折回去再发生
实验例子： 改变网站的start now的颜色，会不会学生增多？

2.1 度量选择

在上面那个例子中，start now的度量更改

image.png

you use a rate when you want to measure the usability of the site ,and a probability when you want to measure the total impact

在这个例子里。the rate will say how often do they actually find that botton

if you want to know how often users went to second level page on your site, use probability

3.伯努利分布

伯努利分布事件判断

ab testing一般遵从伯努利分布，但是要注意前提是独立事件，这个比较难判断

4.计算置信区间

公式

计算公式

5.假设检验

为了测试结果，我们做假设检验
baseline: 零假设 eg:试验组和对立组没有区别
备择假设alternative:

双尾检验vs单尾检验

假设检验

6.标准误差

7.HOW many page views?

7.1 statistical power

7.2 significance level