是什么ℓ2 , 1ℓ2,1规范?

人工智能 机器学习 特征选择 正则化
2021-10-25 18:01:30

我正在阅读这篇论文,它说:

在本文中,我们提出了一种多类嵌入式特征选择方法,称为带调整的稀疏优化评分(SOSA),能够解决数据异构问题。我们建议对通过估计和去除原始数据中的未知数据异质性获得的调整数据进行特征选择。我们的特征选择被公式化为一个稀疏的最优评分问题,通过强加2,1- 系数矩阵的范数正则化,因此可以通过近端梯度算法有效解决。这使得我们的方法可以很好地同时处理异构数据的多类特征选择和分类

是什么2,1规范正则化?是L1正则化还是L2正则化?

1个回答

l2,1是一个矩阵范数,如本文所述。对于某个矩阵ARr×c, 我们有

||A||2,1=i=1rj=1cAij2
你先申请l2沿列进行范数以获得具有 r 维的向量。然后,你申请l1该向量的范数以获得实数。您可以将此符号推广到每个规范lp,q.