使用机器学习技术无法解决哪些问题?

人工智能 神经网络 机器学习 训练
2021-10-22 06:47:48

对于可以通过算法解决的问题。

我们有非常好的正式文献,其中问题可以在多项式、指数时间内解决,而哪些不能。P/NP/NP-硬

但是,我们是否知道机器学习范式中存在无法训练模型的一些问题?(有/无无限计算能力)

2个回答

至少你应该知道两点:

  • P/NP/NP-hard(以及所有其他类型的复杂性)对于机器学习领域也完全有效。因为这些概念与计算的基础(计算理论)有关,机器学习在这里也不例外。
  • 学习问题复杂性中有用的概念之一是VC 维度PAC可学习性及其相关概念(例如样本复杂性)。尽管这些概念不足以衡量时间复杂度,但它们对于查找学习器模型的容量很有用。

如果没有归纳偏差 [1],使用任意生成模型的无监督解缠结学习是不可能的。

事实上,一般来说,没有归纳偏差,任何类型的学习都是不可能的。

[1]:挑战解开表示的无监督学习中的常见假设