提出的（嵌套）算法没有任何问题，事实上，它可能会在不同数据集上的偏差方差问题上表现良好，并具有良好的鲁棒性。但是，您从未说过，读者应该假设您使用的功能是最“最佳的”，因此，如果这是未知的，则必须首先解决一些功能选择问题。

特征/参数选择

一个较小的偏见方法是永远不要让分类器/模型接近与特征/参数选择远程相关的任何东西，因为您不希望狐狸（分类器，模型）成为鸡的守卫（特征，参数）。您的特征（参数）选择方法是$wrapper$- 特征选择捆绑在分类器/模型执行的迭代学习中。相反，我总是使用一个功能$filter$它采用了一种与分类器/模型相去甚远的不同方法，试图最小化特征（参数）选择偏差。在特征选择期间查找包装与过滤和选择偏差 (GJ McLachlan)。

总是存在一个主要的特征选择问题，解决方案是调用对象划分（折叠）的方法，其中对象被划分为不同的集合。例如，模拟一个具有 100 行和 100 列的数据矩阵，然后在另一列中模拟一个二进制变量 (0,1)——称之为分组变量。接下来，使用二进制 (0,1) 变量作为分组变量对每一列运行 t 检验。100 个 t 检验中的几个仅凭偶然性就很重要；但是，只要将数据矩阵分成两部分$\mathcal{D}_1$和$\mathcal{D}_2$, 其中每一个都有$n=50$，显着测试的数量下降。在您可以通过确定参数选择期间使用的最佳折叠数来解决数据的这个问题之前，您的结果可能是可疑的。因此，您需要建立某种 bootstrap-bias 方法来评估保留对象的预测准确性，作为每个训练折叠中使用的不同样本大小的函数，例如，$\pi=0.1n, 0.2n, 0,3n, 0.4n, 0.5n$（即，增加学习期间使用的样​​本量）结合使用的不同数量的 CV 折叠，例如 2、5、10 等。

优化/最小化

您似乎真的在解决函数逼近的优化或最小化问题，例如，$y=f(x_1, x_2, \ldots, x_j)$，例如使用回归或带有参数的预测模型，并且$y$是连续缩放的。鉴于此，并且鉴于需要尽量减少预测中的偏差（选择偏差、偏差方差、从测试对象到训练对象的信息泄漏等），您可能会考虑在使用群体智能方法期间使用 CV，例如粒子群优化 (PSO)、蚁群优化等 PSO（参见 Kennedy & Eberhart, 1995）为粒子在学习期间飞过参数空间时在粒子之间进行社会和文化信息交换添加了参数。一旦你熟悉了群体智能方法，你就会发现你可以克服参数确定中的许多偏差。最后，我不知道是否存在用于函数逼近的随机森林（RF，参见 Breiman, Journ. of Machine Learning）方法，但如果存在，