直观地说,平均值只是观察值的平均值。方差是这些观察值与平均值的差异程度。
我想知道为什么方差的倒数被称为精度。我们可以从中得出什么直觉?为什么精度矩阵与多元(正态)分布中的协方差矩阵一样有用?
请问有什么见解吗?
直观地说,平均值只是观察值的平均值。方差是这些观察值与平均值的差异程度。
我想知道为什么方差的倒数被称为精度。我们可以从中得出什么直觉?为什么精度矩阵与多元(正态)分布中的协方差矩阵一样有用?
请问有什么见解吗?
精度是正态分布的两个自然参数之一。这意味着如果您想组合两个独立的预测分布(如在广义线性模型中),您需要添加精度。方差不具有此属性。
另一方面,当您累积观察值时,您会平均期望参数。第二个时刻是一个期望参数。
当对两个独立的正态分布进行卷积时,方差会相加。
相关地,如果您有一个 Wiener 过程(一个增量为高斯的随机过程),您可以使用无限可分性进行争论,即等待一半的时间意味着以一半的方差跳跃。
最后,当缩放高斯分布时,标准差被缩放。
因此,许多参数化很有用,具体取决于您在做什么。如果您在 GLM 中组合预测,精度是最“直观”的。
这是我的解释尝试:
A) 在测量误差的背景下可以找到对精度的直觉。假设您正在用某种测量仪器测量一些感兴趣的量(例如,用卷尺测量距离)。如果您要使用同一测量仪器对感兴趣的量进行多次测量,您最终可能会得到结果的变化,即测量误差。这些误差通常可以很好地近似为正态分布。正态分布的精度参数告诉您测量值在误差较大或较小的意义上有多“精确”。精度越高,测量越精确,因此误差越小(反之亦然)。
B)精度矩阵有时优于协方差矩阵的原因是分析和计算方便:它们更易于使用。这就是为什么在计算机革命之前,当手动计算时,正态分布通过贝叶斯环境中的精度参数进行经典参数化。当使用非常小的方差时,参数化今天仍然很重要,因为它有助于解决数值计算中的下溢问题。
也可以通过比较两种参数化的密度来说明替代方案的简单性。请注意下面如何使用消除除以参数的需要。在贝叶斯环境中(当参数被视为随机变量时)除以参数会使计算后验分布变得痛苦。