隐马尔可夫模型由两种不同的概率分布定义，即

$$\begin{align*} p(s_t \mid s_{t-1}),&\;\;\;\text{the transition probabilities, and}\\ p(x_t \mid s_t),&\;\;\;\text{the emission probabilities.} \end{align*}$$ 在 HMM 的典型表示中，发射概率被认为是分类的，因为如果序列中的每个观察都是一个词，这是自然选择。

您可以轻松修改排放分布以处理其他类型的观测。例如，如果您的观察是一个连续向量，那么假设是具有状态相关均值向量和协方差矩阵的多元正态分布可能是有意义的，即$x_t$$p(x_t|s_t)$

$$x_t \mid s_t \sim N(\mu_{s_t}, \Sigma_{s_t}).$$

另一方面，如果是二元向量，您可能想要做出条件独立假设（就像您对朴素贝叶斯所做的那样）并假设$x_t$

$$p(x_t\mid s_t) = \prod_{i=1}^n p(x_{ti}\mid s_t) = \prod_{i=1}^n \left(\theta_{s_ti}\mathbb{I}\left\{x_{ti} = 1\right\} + (1-\theta_{s_ti})\mathbb{I}\left\{x_{ti} = 0\right\}\right).$$

这些只是您会看到人们使用的一些常见发行版。只要您可以计算所需的值并学习参数，您就可以真正使用任何您想要的东西。

如果您认为观察结果与观察结果相互作用，伯克利提出了一个非常优雅的带有特征模型的 HMM，它可能对您有用。

ee纸和幻灯片

我和我的合作者最近实现了这个算法。尽管目前它主要是为教育应用程序编写的，但它足以让您入门。

您应该查看Microsoft Research 的 Ralf Herbrich 和 Thore Graepel 提出的TrueSkill模型。（该页末尾列出了一些相关论文，其中给出了一些实现细节。）简单地说，TrueSkill 使用图形模型进行非常大规模的学习。它能够处理具有数百万特征的非常大的数据集，包括名义特征和数值特征。

看到这个答案：如何在概率图模型中处理高维特征向量？