单位和对角协方差矩阵之间的差异

机器算法验证 回归 相关性 协方差
2022-03-06 08:29:21

假设我正在训练一个线性模型。使用对角协方差矩阵和恒等式之间的概念区别是什么?我很清楚,完全协方差矩阵和对角协方差矩阵之间的区别在于预测变量与对角矩阵之间没有相关性。不过,我不太确定恒等矩阵和对角矩阵之间的区别。

2个回答

一个恒等协方差矩阵,,所有变量的方差 = 1。Σ=I

的协方差矩阵对所有变量都有方差 =Σ=σ2Iσ2

对角协方差矩阵对于变量具有方差σi2ith

(所有三个变量之间的协方差为零)

根据定义,单位矩阵是对角线上为 1,其他地方为 0 的矩阵。如果您选择使用单位矩阵作为协方差矩阵,那么您将完全忽略用于计算方差的数据。这真的是你的意思吗?唯一有意义的方法是,如果您已经将数据标准化为方差 1。