从理论的角度来看，我认为这个问题是“给定一个问题，有没有办法确定它的绝对最佳学习算法？”的变体。为什么？因为正如 OP 正确建议的那样，如果有一种方法可以表示所有可能的模型/先验，那么假设提供了无限的数据流，我们将能够最终确定绝对最佳的学习算法。不幸的是，没有免费午餐定理是一个理论结果，它表明不可能有这种“绝对最佳”的学习方法。（老实说，我个人对这种事情不了解，但维基百科对机器学习定理的含义给出了一个很好的简短解释。）

从实际的角度来看，这是一个设计问题，即一个人如何选择表示问题。当一个人代表一个问题时，很容易忽略多少简化。在 OP 提出的例子中，可以想象一个无限的“另类世界”：也许“父亲”这个词没有它通常的含义；也许它发生在人们可以有任意数量的父母的未来；等等。我的观点是：每当正式陈述一个问题时，无论如何都会做出大量假设，其中大部分是无意识的。这不仅仅是成本问题（当然很重要），而是“针对”确切问题的问题：如果我们试图让可能性空间完全开放，那么我们甚至无法开始解决问题，就像人们必须就共同语言达成一致才能相互理解一样。因此，为特定问题选择特定的先验/模型空间类似于修复问题的语言，并且在这样做时，重要的是要考虑与之相关的限制/假设。

是的，理论上讲会很贵，但是

以你为例

以下面的谜语为例，“一个男人和他的儿子发生了一场可怕的事故，被紧急送往医院接受重症监护。医生看着男孩，惊呼道：“我不能给这个男孩做手术，他是我的儿子！” 这怎么可能？''' 你可能有一个先验说“大多数外科医生是男性”，另一个说“大多数父母都是异性恋”。你有两个模型可以解释数据，当然它们是相互排斥的：要么男孩有两个父亲，要么外科医生是他的母亲。

这些事实可以建模为特征，“先验”是历史训练数据，预测概率是“不同的模型”

对我来说，您似乎在谈论声明式编程。这是一种不同的编程风格，不是编写解决问题的过程（即计算模型的权重），而是描述程序应该解决的问题。

一种示例语言是Prolog。

此类程序的输出是对解决您描述的问题所需的关系和术语的描述。如果有一个解决方案，它会给你，但解决方案甚至可能是：surgeon(parent, boy) AND parent(X, boy) AND [X(dad) or X(mom)].