LASSO 正则化和 LASSO 惩罚之间有区别吗?

机器算法验证 术语 套索 正则化
2022-03-22 05:13:03

我已经看到术语 LASSO 正则化和 LASSO 惩罚可以互换使用?这是正确的,它们是相同的还是有什么不同?

谢谢!

1个回答

在数学、统计学和物理学中,正则化是添加信息的过程,以使不适定问题可解决且表现良好,或迫使问题表现出已知可由适当解决方案满足的某些性质;它特别适用于不适定优化问题中的目标函数。

关于套索,添加的信息与某些参数向量的范数有关,并且由于凸性和由 t足够大,这归结为指定一些参数消失。1

j=1p|βj|t,
t>0βj

虽然具有相同的含义,但据我所知,惩罚一词主要由统计学家和数据科学家使用;它的优点是强调了一个事实,即通过惩罚偏离某种理想行为(例如稀疏性)的解决方案来规范问题。