在机器学习中构建模型时，有几个“参数”（我正在考虑真实参数，例如梯度下降的步骤，或诸如特征之类的东西）来调整是很常见的。我们在验证集上验证这些参数。

我的问题是：调整这些多个参数的最佳方法是什么？例如，假设我们有 3 个参数 A、B 和 C，每个参数取 3 个值：

• A = [ A1, A2, A3 ]
• B = [ B1, B2, B3 ]
• C = [ C1, C2, C3 ]

我想到了两种方法。

方法一：

同时改变所有参数，随机测试不同的组合，如：

• 测试1 = [A1,B1,C1]
• 测试2 = [A2,B2,C2]
• 测试3 = [A3,B3,C3]
• 测试4 = [A1,B2,C3]
• 测试 5= [A3,B1,C2]
• 等等..

方法二：

修复除一个以外的所有参数： - TestA1 = [A1,B1,C1] - TestA2 = [A2,B1,C1] - TestA3 = [A3,B1,C1] 这样，我们可以找到参数 A 的最佳值，然后我们固定这个值并用它来找到 B 的最佳值，最后找到 C 的最佳值。

对我来说，使用看起来更有条理的方法 2 似乎更合乎逻辑。但是我们可能会错过一个只能在方法 1 中找到而在方法 2 中没有出现的组合，例如 [A1,B2,C3]。

哪种方法最好？是否有另一种更准确的方法来调整多个参数？

提前致谢。

问候。