古德费罗等人。2016 年，第 65个状态：

高斯混合模型是密度的通用逼近器，在某种意义上，任何平滑密度都可以通过具有足够分量的高斯混合模型以任何特定的非零误差量来逼近。

M. Carreira参考Scott 1992和我找不到的另一个来源将此属性归因于核密度估计。鉴于 KDE 和 GMM 之间的联系，这是可以理解的。

用户 Xi'an 在本回答中对上述说法进行了解释。

虽然这回答了这个问题，但必须注意，虽然它理论上可以近似任何平滑密度，但它不应该用作通用模型。
与使用更合适的参数模型相比，拟合许多组件的混合物会很快变得计算成本更高。这方面的例子可能是具有非常薄的峰的分布，需要用非常薄的带宽来近似，以及具有长尾的分布，无论是非常宽的高斯分布还是许多小的高斯分布都很难正确处理。在这些以及可能的许多其他情况下，最好使用更合适的模型，如果不太通用的话。

Dalal 和 Hall 的“通过自然共轭先验的混合物近似先验”讨论了用法线的混合物（或就此而言，其他共轭先验密度的混合物）估计任意密度。这篇论文和引用它的论文讨论了如何用 GMM 和其他混合物任意地近似密度的细节。这可能是近似先验的有用方法，因为共轭先验的混合也是共轭的。

Dalal、SR 和 WJ 大厅。“通过自然共轭先验的混合物近似先验。” 皇家统计学会杂志。B 系列（方法论），第一卷。45，没有。2，1983 年，第 278-286 页。JSTOR，www.jstor.org/stable/2345533。于 2020 年 12 月 7 日访问。