混合范数如何(大号1 , 2L1,2) 优于大号1L1稀疏表示的规范?

信息处理 矩阵 压缩传感 优化 源分离 稀疏性
2022-01-31 15:31:23

使用l1-norm正则化以实现解的稀疏性为目的已成功应用了很多。但很多时候,我发现这篇论文使用混合规范而不是l1-规范。

考虑混合范数Lp,q规范定义为:

ap,q=(i(j|ai,j|p)qp)1q

混合规范如何优于l1- 稀疏表示的规范?我看到的大部分是l1,2.

参考,例如,

1个回答

混合范数允许您在解决方案矩阵中施加一些简单的结构。使用您的示例p=q=1那么这意味着解决方案可以将任意元素设置为非零系数。这不会在解决方案中强加任何结构。在这种情况下L11norm 只是对所有矩阵元素的绝对值求和 - 类似于 Frobenius 范数。

例如,考虑L11以下矩阵的范数相同:

[0200],[0020],[2000],[0002].

所以对于哪个元素设置为非零没有偏好

相反,如果p=2q=1, 那么目标函数就是最小化l2列的范数,然后是l1规范超过那个。这意味着您正在寻找一个a具有稀疏数量的列向量的矩阵,其中每个列向量都有一个小的l2规范。当然,这假设您正在使用l1规范作为稀疏性的代表。

考虑L2,1L1,2以下矩阵的范数:

[2020],L2,1=82.8,L1,2=4

[2002],L2,1=4,L1,2=8

所以最小化L2,1norm 倾向于选择第一个矩阵的结构而不是第二个矩阵的结构,同时最小化L1,2norm 倾向于使用第二个矩阵结构而不是第一个矩阵。

因此,混合范数允许您对正在寻找的稀疏解决方案的结构施加软约束。相对容易看出,您也可以将其设置为查找一组稀疏的行向量,每个行向量都有一个小的l2规范。决定使用哪个实际上取决于您如何设置方程式。