Fisher信息的行列式

机器算法验证 方差 信息论 费希尔信息 信息几何
2022-03-17 20:57:36

(我在math.se上发布了一个类似的问题。)

在信息几何中,Fisher 信息矩阵的行列式是统计流形上的自然体积形式,因此具有很好的几何解释。例如,它出现在 Jeffreys 先验的定义中的事实与它在重新参数化下的不变性有关,这是(恕我直言)几何属性。

但是统计中的决定因素是什么?它测量任何有意义的东西吗?(例如,我会说如果它为零,那么参数不是独立的。这是否更进一步?)

此外,是否有任何封闭形式来计算它,至少在某些“简单”的情况下?

1个回答

在许多示例中,Fisher 信息矩阵的逆矩阵是参数估计值的协方差矩阵,精确或近似。通常它会渐近地给出协方差矩阵。协方差矩阵的行列式通常称为广义方差。β^

因此,Fisher 信息矩阵的行列式是广义方差的倒数。这可用于实验设计以找到最佳实验(用于参数估计)。在这种情况下,这被称为 D 最优性,它有大量的文献。所以谷歌“D-最优实验设计”。在实践中,最大化逆协方差矩阵的行列式通常更容易,但这显然与最小化逆协方差矩阵的行列式是一回事。

这个网站上也有很多帖子,但很少有好的答案。这是一个:不利用方差的实验(因子)设计