最初我认为“正则化”是指通过在使用规范的成本函数中放置惩罚项来减少过度拟合的特定方法，例如。L1、L2 范数。但是最近我看到人们使用术语“正则化”来指代任何减少过拟合的方法，例如。我听说人们将神经网络中的随机丢失称为正则化方法。那么该术语的哪种用法是正确的？
“正规化”一词具体指的是什么？
机器算法验证
术语
正则化
过拟合
2022-03-29 15:08:51
1个回答
我同意正则化是一种约束参数的方法的评论。在这方面，不仅和惩罚正则化，但神经网络 dropout 是正则化，因为它强制某些参数为零。同样，卷积神经网络可以被认为是通过强制一些参数相等而其他参数为零来执行正则化。
即使术语有点松散，机器学习领域似乎还可以。许多领域的术语也很松散。例如，请一位音乐家解释“riff”和“lick”之间的区别。
其它你可能感兴趣的问题