我怎么知道生成过程的相对概率是具有此特定参数组合的高斯 MM，而不是具有该参数配置的神经网络。

您的是模型中的一组参数。因此，对于高斯混合模型，它们是均值、协方差和混合参数。在神经网络中，它们是权重和偏差。这些是完全不同的数量集，因此没有理由认为在任何一种情况下都是相关的，无论是先验的还是在看到之后。 $\theta$$P(\theta)$$D$

$P(D \mid \theta)$是公式的一部分，它将被实现为混合模型或网络，或其他任何东西。但是你必须做出决定，否则你的先验是错误的数量，这是没有意义的。

此外，直观地考虑一个生成数据的过程，我们正在猜测其参数。但是在这里，我们有多个进程同时生成数据，即失去了对真实模型的感觉。

在任何贝叶斯问题出现之前，您已经认为数据可能由不同的毕竟，可能性告诉您在不同的值集下生成数据的可能性有多大。但是您的“串联”想法表明您认为在贝叶斯案例中他们都“同时”完成了所有操作，因此没有“一个真正的模型”的感觉。这是一个错误。或许可以这样想：$\theta$

调用“真实模型参数”。贝叶斯主义者和其他所有人都同意这些是我们想知道的事情。那么实际上是来自的样本。我们只是碰巧不知道是。$\theta_0$$D$$P(D \mid \theta_0)$$\theta_0$

我们的，其中是参数的任何设置，仅指定如果我们知道参数是什么，假设通常它是直接物理的，将视为控制面板中的设置。贝叶斯方法从可能是什么的意见或知识，然后以为条件得到是什么的新意见或知识看到之后。 $P(D \mid \theta)$$\theta$$D$$\theta$$P(\theta)$$\theta_0$$D$$D$$P(\theta \mid D)$$\theta_0$$D$

您在上面提供的总和实际上最有用，就像在获得的过程中的归一化常数一样，这实际上是有用的。的更新信念。它还有其他一些作用，例如“证据”，但就您的问题而言，这些作用无关紧要。$P(\theta \mid D)$$\theta_0$

评论太长了，所以在这里发布。根据其他人关于将先验视为一种信念的观点，我认为理解的障碍是将先验和条件结合起来。

先验被理解为对真实可能是什么的信念。条件更好地考虑在频率学术语中，即用这个建立一个模型并从中生成许多样本，然后只计算每个样本的频率。他们的组合不会是一个具有明确定义的具体过程。所以问题是要理解这一点。$P(\theta)$$\theta$ $P(Data|\theta)$$\theta$$\sum_{\theta} {P(\theta)\times P(Data|\theta)}$$\theta$

假设，最初我没有任何具体数据，我只是相信背景生成过程可能是什么，即。此外，对于每个过程，我可以知道的频率是多少。因为我不太确定这个过程，所以的所有不确定性，我平均希望数据（如果我收集过任何数据）具有这样的分布。$P(\theta)$$P(Data|\theta)$$P(Data)$$\theta$$P(Data)$

但现在我实际上收集了一些样本，将这个集合称为，然后计算样本的频率。我现在拥有的是。$S$$P(Data|S)$

但我可以写： 。以这种方式思考，我的计数概率已经通过首先将我对的信念更改为，它变得更加尖峰特定，数据分布现在看起来更像的。和之间的区别吗？$P(Data|S)=\sum_{\theta} P(Data|\theta)P(\theta|S)$$P(Data|S)$$\theta$$P(\theta|S)$$\theta$$P(Data|\theta)$$\theta$$P(Data)$$P(Data|S)$