统计学习理论VS计算学习理论?

机器算法验证 机器学习 统计学习 人工智能
2022-03-30 01:37:16

统计学习理论计算学习理论之间有什么关系和区别

它们是关于同一个主题的吗?解决同样的问题,使用同样的方法?

例如,前者说它是预测理论(回归、分类……)。

2个回答

计算学习,更具体地说是可能近似正确 ( PAC ) 框架,回答了以下问题:学习者需要多少训练示例才能以高概率学习一个好的假设?我需要多少计算工作才能以高概率学习这样的假设?它不处理您正在使用的具体分类器。它是关于您可以通过手头的一些示例学习什么和不可以学习什么。

在统计学习理论中,你宁愿回答这样的问题:分类器在收敛到一个好的假设之前会错误分类多少训练样本?即训练分类器有多难,我对其性能有什么保证?

遗憾的是,我不知道以统一方式描述/比较这两个领域的来源。尽管如此,尽管希望不大

补充@jpmuc 的答案,计算学习和统计学习之间的区别似乎是一个历史事故,并且这些理论正在慢慢融合(有时被教授)为一个统一的“学习理论”。计算和统计学习理论越来越多地用作同义词。

到目前为止,计算学习理论的主要思想是 PAC 学习,其公式经常利用统计学习理论的主要贡献,即 VC 维度。

有关更多详细信息和参考:https ://machinelearningmastery.com/introduction-to-computational-learning-theory/