机器算法验证 - 方向向量的余弦矩/mgf？ - 吾爱随笔录

方向向量的余弦矩/mgf？

机器算法验证正态分布数理统计多元分析循环统计力矩生成函数

2022-03-19 07:17:46

谁能建议我如何计算两个高斯随机向量的余弦的二阶矩（或整矩生成函数） $x,y$ , 每个分布为 $\mathcal N (0,\Sigma)$ ，相互独立？IE，以下随机变量的矩

\frac{⟨ x, y ⟩}{‖ x ‖ ‖ y ‖}

$\frac{\langle x, y\rangle}{\|x\|\|y\|}$

最接近的问题是两个高斯随机向量的内积的矩生成函数，它为内积推导出 MGF。mathoverflow也有这个答案，它将这个问题与样本协方差矩阵的特征值分布联系起来，但我没有立即看到如何使用这些来计算第二时刻。

的特征值的半范数成比例， $\Sigma$ 因为我通过 2 维的代数操作以及猜测和检查的 3 维得到了这个结果。对于特征值 $a,b,c$ 加起来为 1，二阶矩为：

(\sqrt{a} + \sqrt{b} + \sqrt{c})^{- 2}

$(\sqrt{a}+\sqrt{b}+\sqrt{c})^{-2}$

使用以下进行数值检查

val1[a_, b_, c_] := (a + b + c)/(Sqrt[a] + Sqrt[b] + Sqrt[c])^2
val2[a_, b_, c_] := Block[{},
  x := {x1, x2, x3};
  y := {y1, y2, y3};
  normal := MultinormalDistribution[{0, 0, 0}, ( {
      {a, 0, 0},
      {0, b, 0},
      {0, 0, c}
     } )];
  vars := {x \[Distributed] normal, y \[Distributed] normal};
  NExpectation[(x.y/(Norm[x] Norm[y]))^2, vars]]

  val1[1.5,2.5,3.5] - val2[1.5,2.5,3.5]

检查 4 个变量的公式（在数值范围内）：

val1[a_, b_, c_, 
  d_] := (a + b + c + d)/(Sqrt[a] + Sqrt[b] + Sqrt[c] + Sqrt[d])^2
val2[a_, b_, c_, d_] := Block[{},
  x := {x1, x2, x3, x4};
  y := {y1, y2, y3, y4};
  normal := 
   MultinormalDistribution[{0, 0, 0, 
     0}, {{a, 0, 0, 0}, {0, b, 0, 0}, {0, 0, c, 0}, {0, 0, 0, d}}];
  vars := {x \[Distributed] normal, y \[Distributed] normal};
  NExpectation[(x.y/(Norm[x] Norm[y]))^2, vars]]

val1[0.5, 1.5, 2.5, 3.5] - val2[0.5, 1.5, 2.5, 3.5]

1个回答

嘿雅罗斯拉夫，你真的不必急于接受我在 MO 上的回答，非常欢迎询问更多细节:)。

既然你用 3-dim 重新表述了这个问题，我可以确切地看到你想要做什么。在 MO 帖子中，我认为您只需要计算两个随机变量之间的最大余弦值。现在问题似乎更棘手了。

首先，我们计算归一化的高斯，这不是一项简单的工作，因为它实际上有一个名称“投影正态分布”，因为我们可以根据其极坐标。的边际密度可以在 $\frac{X}{\|X\|}$ $X$ $(\|X\|,\frac{X}{\|X\|})=(r,\boldsymbol{\theta})$ $\boldsymbol{\theta}$

\int_{R^{+}} f (r, θ) d r

$\int_{\mathbb{R}^{+}}f(r,\boldsymbol{\theta})dr$

一个重要的例子是具有二元正态分布，其中被称为具有投影法线（或角高斯或偏移法线）分布。[Mardia&Peter]p.46 $x$ $N_2(\mu,\Sigma)$ $\|x\|^{-1}x$

在这一步中，我们可以获得，因此它们的联合密度由于独立性。至于投影正态分布的具体密度函数，请参见 [Mardia&Peter] 第 10 章或 [2] 等式 (4) 或 [1] 。（请注意，在 [2] 中，它们还假设协方差矩阵的特殊形式 ) $\mathcal{PN}_{k}$ $\frac{X}{\|X\|}\perp\frac{Y}{\|Y\|}$ $(\frac{X}{\|X\|},\frac{Y}{\|Y\|})$ $\Sigma=\left(\begin{array}{cc} \Gamma & \gamma\\ \gamma' & 1 \end{array}\right)$

其次，由于我们已经获得了它们的联合密度，它们的内积可以很容易地使用变换公式。另见[3]。

(\frac{X}{‖ X ‖}, \frac{Y}{‖ Y ‖}) \mapsto \frac{X}{‖ X ‖} \cdot \frac{Y}{‖ Y ‖}

$(\frac{X}{\|X\|},\frac{Y}{\|Y\|})\mapsto\frac{X}{\|X\|}\cdot\frac{Y}{\|Y\|}$

只要我们计算了密度，二阶矩只是一个积分问题。

参考

[Mardia&Peter]Mardia、Kanti V. 和 Peter E. Jupp。方向统计。卷。494. 约翰威利父子公司，2009 年。

[1] 王方波和艾伦 E. Gelfand。“一般投影正态分布下的方向数据分析。” 统计方法 10.1 (2013): 113-127。

[2]Hernandez-Stumpfhauser、Daniel、F. Jay Breidt 和 Mark J. van der Woerd。“任意维度的一般投影正态分布：建模和贝叶斯推理。” 贝叶斯分析（2016）。 https://projecteuclid.org/download/pdfview_1/euclid.ba/1453211962

[3]两个高斯随机向量内积的矩生成函数

其它你可能感兴趣的问题

上一篇什么是非参数结构方程建模？下一篇如何在执行逻辑回归之前测试对数几率和预测变量之间的线性关系？