机器算法验证 - Wald 检验和 F 分布 - 吾爱随笔录

机器算法验证假设检验

2022-04-15 12:14:50

假设样本 $X_i, i=1,\dots, n$ , 是 iid 正态分布，均值和方差未知 $\theta = (\mu, \sigma^2)$ . 检验 if 的 Wald 检验统计量 $\mu = \mu_0$ 是

W = \frac{n (\hat{μ} - μ_{0})^{2}}{{\hat{σ}}^{2}}

$W=\frac{n(\hat{\mu} - \mu_0)^2}{\hat{\sigma}^2}$ 在哪里

{\hat{σ}}^{2} = \frac{\sum_{i} (X_{i} - \hat{μ})^{2}}{n}

$\hat{\sigma}^2 = \frac{\sum_i (X_i - \hat{\mu})^2}{n}$ 是最大似然估计量

σ^{2}

$\sigma^2$ .

我想知道这是否正确 $\frac{(n-1)W}{n^2}$ 有一个 F 分布 $1$ 和 $n-1$ df下为null？
从注释看来， $W$ 是一个 F 分布 $1$ 和 $n-1$ df 下为空。这不正确吗？让 $p_2$ 是的维度 $\mu$ ，和 $p$ 是维度 $X_i$ .

在正态性假设下，我们有一个更强的结果。的分布 $W$ 正好是卡方 $p_2$ 已知，则为自由度。在更一般的情况下，使用基于 df的残差平方和估计的分布是具有和 df的 $σ^2$ $σ^2$ $n-p$ $W/p_2$ $F$ $p_2$ $n-p$

谢谢并恭祝安康！

1个回答

为了强调点估计值和假设值之间的距离被其标准误差缩放，我发现将写成更容易 $\hat{\mu}$ $\mu$ $W$

W = \frac{(\hat{μ} - μ_{0})^{2}}{{\hat{σ}}^{2} / n} .

$W = \frac{(\hat{\mu} - \mu_0)^2}{\hat{\sigma}^2/n}.$

回想一下和无偏样本方差之间的关系： $\hat{\sigma}^2$ $s^2$

{\hat{σ}}^{2} = \frac{n - 1}{n} s^{2} .

$\hat{\sigma}^2 = \frac{n-1}{n} s^2.$

现在，请注意我们可以写

\frac{n - 1}{n} W = \frac{(\hat{μ} - μ_{0})^{2}}{s^{2} / n} .

$\frac{n-1}{n} W = \frac{(\hat{\mu} - \mu_0)^2}{s^2/n}.$

出于几个原因，这很有用。首先，认识到右侧的平方根是单样本 Student t 检验的统计量，假设样本是 iid 正态分布，它在原假设下具有个自由度的Student t 抽样分布。那是， $n-1$

\sqrt{\frac{n - 1}{n} W} = \frac{\hat{μ} - μ_{0}}{s / \sqrt{n}} \sim t_{n - 1} .

$\sqrt{\frac{n-1}{n} W} = \frac{\hat{\mu} - \mu_0}{s/\sqrt{n}} \sim t_{n-1}.$

接下来，回忆一下学生的 t 分布和（中心）F 分布之间的关系：如果，则具有自由度 1 和。所以， $Y \sim t_{\nu}$ $Y^2 \sim F$ $\nu$

\frac{n - 1}{n} W \sim F

$\frac{n-1}{n} W \sim F$ 自由度为 1 和。

n - 1

$n-1$

您在第 2 点中链接的注释在这里没有明确适用。首先，正如您所说，是未知的。此外，您还描述了经典的单样本 Student's t-test，而链接描述了更一般的情况（即测试回归系数）。您引用的维度概念是指多变量问题。您可以通过注意这里的维度是来看到一个连接。 $\sigma^2$ $p = 1$

其它你可能感兴趣的问题