数据挖掘 - 试图理解 Karl Friston 神经科学文章中的自由能方程 - 吾爱随笔录

我正在尝试理解一篇神经科学文章：

弗里斯顿，卡尔 J.，等人。“行动和行为：自由能公式。” 生物控制论102.3 (2010): 227-260。( DOI 10.1007/s00422-010-0364-z )

在这篇文章中，弗里斯顿给出了三个方程，据我所知，它们是等价的或可相互转换的，并且指的是物理熵和香农熵。它们在文章的第 231 页上显示为等式 (5)：

得到的自由能表达式可以用三种方式表示（使用贝叶斯规则和简单的重新排列）：

• 能量减去熵

• 分歧加惊喜

• 复杂性减去准确性

在数学上，这些对应于：

$\begin {对齐} F &= - \langle \ln p(\tilde s, \Psi \vert m) \rangle _q + \langle \ln q(\Psi \vert \mu) \rangle _q \ &= D( q(\Psi \vert \mu) \parallel p(\Psi \vert \tilde s, m)) - \ln p(\tilde s \vert m) & \qquad \qquad & (5) \ &= D( q(\Psi \vert \mu) \parallel p(\Psi \vert m)) - \langle \ln p(\tilde s \vert \Psi, m) \rangle _q \end{aligned}$

我在这一点上挣扎的事情是：

|| 的含义在方程的第 2 版和第 3 版中；
和负对数。

任何有助于理解这些方程实际上是 Fristen 声称它们是什么的，我们将不胜感激。例如，在第一个方程中，第一项能量等在什么意义上？