摘自《动手机器学习》一书：
请注意，正则化项只能在训练期间添加到成本函数中。训练模型后，您希望使用非正则化性能度量来评估模型的性能。
为什么不使用相同的模型进行训练和测试？
为什么正则化只用于训练而不用于测试？
机器算法验证
正则化
2022-04-01 07:22:31
1个回答
我认为有一点混乱。
作者的意思是，在测试期间，我们关注 MSE，因为这是我们评估性能的依据。MSE加上正则化惩罚是我们用来拟合模型的。我们使用的是“同一模型”；只是我们在训练和测试期间测量的东西是不一样的。在训练期间，我们评估已知数据的拟合优度并同时惩罚模型复杂性，而在测试期间，我们评估未知数据的拟合优度并假设这种性能进一步推广。