双线性函数（参见https://en.wikipedia.org/wiki/Bilinear_map）是一个在所有其他变量都固定时在每个变量中都是线性的函数。例如，$f(x, y) = x y$.

您的$p(y \mid x)$是对数线性的，如果$f(x, y)$是线性的$x$和$y$. 如果它是对数双线性的$f(x, y)$是双线性的$x$和$y$.

请参见http://www.cs.utoronto.ca/~hinton/csc2535/notes/hlbl.pdf的幻灯片 9和https://piotrmirowski.files.wordpress.com/2014/06的幻灯片 17、23 和 24 /piotrmirowski_2014_wordembeddings.pdf作为参考。

教科书的分类数据分析处理，比如 Agresti (2002)，$N\times D$列联表$C$带组件$C_{ij}$涉及三对数线性模型

$$\begin{align*} \log E[C_{ij}] =& \lambda & \text{(constant rate)}\\ \log E[C_{ij}] =& \lambda + \lambda^R_i + \lambda^C_j & \text{(independence)}\\ \log E[C_{ij}] =& \lambda + \lambda^R_i + \lambda^C_j + \lambda^{RC}_{ij} & \text{(saturated)} \end{align*}$$ 在哪里$\lambda$是标量，$\lambda^R$是长度$N$, $\lambda^C$是长度$D$， 和 $\lambda^{RC}$是一个$N\times D$交互项矩阵。典型的识别约束包括$\lambda^R$和$\lambda^C$均值为 0。

对数双线性模型在独立模型和饱和模型之间具有复杂性（但由于乘法项而需要不同的拟合过程）。最简单的对数双线性模型是

$$\begin{align*} \log E[C_{ij}] & = \lambda + \lambda^R_i + \lambda^C_j + \mu_i \nu_j & \text{(RC model* / log-bilinear)} \end{align*}$$ 在哪里$\mu$是长度$N$, $\nu$是长度$D$. (*Goodman 的原始配方吸收$\lambda$到另一个参数）。这里需要额外的识别约束，例如 Z 评分$\mu$并且均值为零$\nu$.

这些的标准处理来自 Goodman (1979)，他称之为 RC 关联模型，但据我所知，这是通用的对数双线性结构。

增加乘法项的数量，比如 M，将模型的灵活性移向饱和模型，并被称为 RC(M) 模型，尽管只有 RC 模型似乎被称为对数双线性。