两种型号哪一种更好？

这取决于你关心什么。

为什么？

如果你只想要最高$R^2$,$R_{adj.}$或者$R_{pred}$，显然 Model 1 更好。事实上，在您的示例中，所有性能指标都会告诉您选择模型 1！但是选择模型还有其他方面......

许多人关心可解释性的密度（我提出了这个术语）；将其视为由自由度数归一化的解释力（也称为模型的优雅）。如果这是您的偏好，那么 Model 2 看起来更有吸引力，因为其指标仅下降了 1% 和 1%，而 Model 1 下降了 10% 和 10%。

一些相关背景

有一个术语最小描述长度，它形式化了奥卡姆剃刀，说明：

给定数据集的最佳假设（模型及其参数）是导致数据最佳压缩的假设。

这可以通过评估每个模型的可解释性的密集程度来帮助确定两个模型中的哪一个是最好的。简单来说：假设模型都产生 80% 的准确率，但使用了一个额外的参数，那么是更优雅的模型，因为它更有效地使用了它的输入。换句话说，它对信息的压缩程度更高。ABAB

这是一篇非常棒的博文（今天发布！），它解释了奥卡姆剃刀、贝叶斯和香农熵如何共同定义模型中的信息密度如何成为一个非常重要的标准。剧透：这三个都归结为同一个指导原则。

人们尝试确定哪种回归模型最好的另一种方法是使用另一种度量标准，例如Akaike 信息准则 (AIC)或贝叶斯信息准则 (BIC)，这两者都试图在模型的性能和使用的自由度数（即参数数）。我们选择得分最低的模型。例如，AIC 定义为：

在哪里$k$是参数的数量和$\hat{L}$是性能指标（这里隐含了最大似然）。所以用简单的英语来说，随着我们包含更多参数并且输出模型变得更加复杂，AIC 变得越来越大。但是，如果模型更准确地拟合每个参数的数据，则会将其减去，从而降低 AIC 值。BIC 基本上以相同的方式工作。我认为我们在这里尝试做的事情很直观。

概括

回到我的第一个答案：“这取决于你关心什么”——希望现在可以清楚地看到选择是主观的。如果您可以忍受高模型复杂性，那么您可能会选择最好的$R_{pred.}$模型 1 也是如此。另一方面，如果您喜欢具有高信息密度的优雅模型，那么您的三个指标之间 1% 的差异将导致您选择模型 2。

编辑

我一直在寻找的一个词又回到了我的脑海：简约。简约模型是一种达到准确度期望的模型，并且使用尽可能少的参数来实现。这完全是关于最大的信息密度和解释效率。查看与您的问题相关的此线程。