有人告诉我,我需要重要性和力量才能使我的 AB 结果有效。我为此进行了很多研究,上述陈述没有意义。我知道我们需要足够高的能力来不拒绝零假设并假设新功能没有购买任何实际效果,但是当我的置信区间已经如此之高时,为什么我们需要能力来拒绝零假设?
我的困惑如下:
功率为 (1-Beta)。所以功率越高,第二类错误的概率就越低(当它为假时不拒绝原假设)。问题是,我拒绝零假设,因为我的结果非常重要并且 alpha 已经很低。
降低 alpha,在相同功效下所需的样本量更多:这进一步增加了我的信念,即您不需要统计功效来拒绝零假设。我的意思是,我们真的是说我的置信区间越大,验证效果所需的数据量就越大?
我不确定我是否遗漏了一些关键概念。请帮帮我,因为我很确定新功能有积极的转化,我已经达到了 99.99% 的 CI。