机器算法验证 - 线性和二次形式的独立性 - 吾爱随笔录

线性和二次形式的独立性

机器算法验证自习独立证明二次型

2022-04-09 07:39:56

如何证明以下引理？

令 =其中是来自。然后让是一个实非零向量，让是一个阶实对称矩阵。则和是独立的，当且仅当 $\mathbf{X}^ \prime$ $\left[ X_1 , X_2 , \ldots, X_n \right]$ $X_1, X_2, \ldots X_n$ $N \left ( 0,\sigma^2 \right)$ $\mathbf{b}^\prime = \left[b_1,b_2,\ldots,b_n \right]$ $\mathbf{A}$ $n$ $\mathbf{b ^\prime X}$ $\mathbf{X} ^\prime \mathbf{A} \mathbf{X}$ $\mathbf{b} ^\prime \mathbf{A}=0.$

我知道但我不知道如何在这里进行。我的主要困难在于这两个变量非常不同。如果它是两个二次形式，那么克雷格定理将是有用的。 $\mathbf{b^ \prime X } \sim N(0, \sigma^2 \mathbf{ b^\prime b})$

有什么建议吗？

谢谢你。

2个回答

使用克雷格定理。考虑b上的二次形式。如果两个随机变量是独立的，那么这些随机变量的任何单变量函数同样是独立的。二次形式是独立的，因此b上的线性形式和A上的二次形式同样是独立的。

从单变量情况开始，我们找到相关性： $X=X_1$

$\rho(bX,AX^2)=bA\rho(X,X^2)=bA\dfrac{\mathrm{Cov}(X,X^2)}{ \sigma_X \sigma_{X^2}} =bA\dfrac{E[(X-\mu_X)(X^2-\mu_{X^2})]}{ \sigma_X\sigma_{X^2}}$

对于，，对于期望，我们知道和的分布（正态和卡方）。 $\mu_x=0$ $\sigma_x=\sigma$ $X$ $X^2$

我们看到意味着，所以在这种情况下它们不是独立的。 $bA\neq 0$ $\rho\neq0$
现在看情况，这意味着，或：在第一种情况下，我们有和两个常数通常是独立的。对于其他两种情况，我们也有一个常数和任何随机变量都是独立的。 $bA=0$ $b=A=0$ $(b=0,A\neq0)$ $(b\neq0,A=0)$ $bX=0=AX^2$ $(0)$

所以仅在的情况下是独立的，否则我们有。 $(bX,AX^2)$ $bA=0$ $\rho\neq0$

这种单变量情况不能直接扩展到多变量情况，因为。 $X'AX\neq AX'X$

作为一般的捷径，如果你有一些转换，它因此直接依赖于（不是独立的），除非它们中的任何一个是一个常量，这里需要。 $Y=T(X)$ $X$ $b'A=0$

其它你可能感兴趣的问题

上一篇估计给定分布的总变异距离下一篇为什么需要使用 ML 估计而不是 REML 来比较多级线性模型？