名称中包含的内容:精度(方差的倒数)

机器算法验证 正态分布 多元分析 术语 直觉
2022-02-03 01:58:21

直观地说,平均值只是观察值的平均值。方差是这些观察值与平均值的差异程度。

我想知道为什么方差的倒数被称为精度。我们可以从中得出什么直觉?为什么精度矩阵与多元(正态)分布中的协方差矩阵一样有用?

请问有什么见解吗?

3个回答

按照惯例,精度通常在贝叶斯软件中使用。它之所以受欢迎,是因为伽马分布可以用作精度的共轭先验

有人说精度比方差更“直观”,因为它表示的是平均值周围的值的集中程度,而不是它们的分布程度。据说我们更感兴趣的是某种测量的精确程度,而不是它的不精确程度(但老实说,我看不出它会更直观)。

平均值周围的值越分散(高方差),它们的精确度就越低(精度小)。方差越小,精度越高。精度只是一个反向方差真的没有比这更多的了。τ=1/σ2

精度是正态分布的两个自然参数之一。这意味着如果您想组合两个独立的预测分布(如在广义线性模型中),您需要添加精度。方差不具有此属性。

另一方面,当您累积观察值时,您会平均期望参数。第二个时刻是一个期望参数。

当对两个独立的正态分布进行卷积时,方差会相加。

相关地,如果您有一个 Wiener 过程(一个增量为高斯的随机过程),您可以使用无限可分性进行争论,即等待一半的时间意味着以一半的方差跳跃。

最后,当缩放高斯分布时,标准差被缩放。

因此,许多参数化很有用,具体取决于您在做什么。如果您在 GLM 中组合预测,精度是最“直观”的。

这是我的解释尝试:

A) 在测量误差的背景下可以找到对精度的直觉。假设您正在用某种测量仪器测量一些感兴趣的量(例如,用卷尺测量距离)。如果您要使用同一测量仪器对感兴趣的量进行多次测量,您最终可能会得到结果的变化,即测量误差。这些误差通常可以很好地近似为正态分布。正态分布的精度参数告诉您测量值在误差较大或较小的意义上有多“精确”。精度越高,测量越精确,因此误差越小(反之亦然)。

B)精度矩阵有时优于协方差矩阵的原因是分析和计算方便:它们更易于使用。这就是为什么在计算机革命之前,当手动计算时,正态分布通过贝叶斯环境中的精度参数进行经典参数化。当使用非常小的方差时,参数化今天仍然很重要,因为它有助于解决数值计算中的下溢问题。

也可以通过比较两种参数化的密度来说明替代方案的简单性。请注意下面如何使用消除除以参数的需要。在贝叶斯环境中(当参数被视为随机变量时)除以参数会使计算后验分布变得痛苦。τ=1σ2

pY(y;μ,σ)=1σ2πe12(yμσ)2

pY(y;μ,τ)=τ2πe12τ(yμ)2