是否可以拟合自变量为潜在变量的多元回归模型?

机器算法验证 回归 多元分析 潜变量
2022-03-28 21:03:41

我正在尝试拟合一个多元多元回归模型,其中自变量 X 是潜在的,但我不知道从哪里开始(我有关于系数矩阵的先验信息,所以我可以使用一些迭代方法)。

因变量 Y 是一个 NxM 矩阵,表示来自 M 个变量的 N 个观察值。潜变量 X 是一个 NxP 矩阵,除了维度,我们对它一无所知。除此之外,我们还有基于先验知识的系数矩阵 beta 的初始估计。我的目标是通过使用数据矩阵 Y 和初始系数矩阵来找到潜在 X 和系数矩阵 beta 的估计值。我想构建一个 EM 算法,但由于多元数据和潜在变量概念的复杂性,我完全糊涂了。

谢谢你。

1个回答

我们是否可以将问题重新表述为:'我有 N 个 M 变量观察值,我假设这些观察值是由 N 个相应的 P 变量潜在变量生成的,即对于每个案例/行,M 个观察到的数字是由 P 个未观察到的数字生成的。我有一个想法,这个映射与 M x P 系数矩阵是线性的,我想知道潜在矩阵值应该是什么。'?

如果那是准确的,那么您就有了回归校准问题的多元版本通常人们知道 X 和 Y 并估计 beta,而这里知道 Y 和 beta 并估计/“退出”X。

这就是 suncoolsu 关于控制问题的动机——问题是关于 X 的边际分布(如果有的话)可以做出什么样的分布假设。如果您乐于对 P(Y | X; beta) 和 P(X) 做出分布假设以应用贝叶斯定理,那么您的 EM 想法将是有意义的(尽管您不需要迭代。)

或者也许这不是你面临的问题,我只是不明白你的描述。