无监督学习中有泛化的概念吗?

人工智能 机器学习 无监督学习 概括 pac学习
2021-11-02 10:59:42

我一直在学习一些关于泛化理论的知识,特别是思考这个问题的 PAC(和 PAC-Bayes)方法。

所以,我开始怀疑无监督学习中是否存在类似版本的“泛化”?即,是否有一个通用框架来封装无监督学习方法的“好”程度?学习低维表示存在重构误差,但是无监督聚类呢?

有任何想法吗?

1个回答

无监督学习中的泛化(2015) 一文中,Abou-Moustafa和 Schuurmans 开发了一种方法来评估无监督学习算法的泛化A在给定的数据集上S以及如何比较两种无监督学习算法的泛化能力A1A2,对于相同的学习任务。

他们首先提供了对无监督学习算法和损失函数的更抽象和通用的定义。然后他们以与监督学习类似的方式定义预期风险、经验风险和泛化差距。最后,他们推导出一个上界A的预期损失。

当然,您应该阅读论文以了解更多详细信息。具体来说,第 2 节(第 3 页)详细描述了它们的设置。