是否有任何关于提供不确定性估计的机器学习模型的研究？
如果我在单词上训练一个去噪自动编码器并通过一个有噪声的单词，我希望它返回一个确定性，即考虑到它已经训练过的数据分布，它是正确的。
回答这些问题或不确定性指标都是我很好奇的事情。当模型接收到远远超出其被训练近似的输入的东西时，模型只是说“我不确定”的一般方式。
是否有关于提供不确定性估计的模型的研究？
人工智能
机器学习
贝叶斯深度学习
贝叶斯神经网络
不确定性量化
2021-10-23 06:56:18
1个回答
是的，有一些关于这个主题的研究。它通常被称为贝叶斯机器学习或贝叶斯深度学习（但我认为这不是一个好名字，因为有些模型并不是真正基于贝叶斯统计的直接应用）。一些提供某种不确定性估计的 ML/DL 模型是，例如，Monte Carlo Dropout (MC dropout)或贝叶斯神经网络。从理论上讲，这些技术看起来很有希望。在实践中，我不认为它们是深度学习中不确定性估计问题的最终解决方案。事实上，例如在贝叶斯神经网络的情况下，它们有一些缺点，例如需要调整和保存的参数更多。