什么是稀疏度的精确度量?

信息处理 稀疏性
2022-01-14 09:54:26

我目前正在研究信号的压缩感知和稀疏表示,特别是图像。

我经常被问到“什么是稀疏定义?”。我回答“如果信号的大多数元素在傅里叶或小波等域中为零或接近于零,那么该信号在该基础上是稀疏的。” 但是这个定义总有一个问题,“大多数元素是什么意思?是90%?80%?92.86%?!” 这是我的问题出现的地方,是否有任何精确的,即数字的稀疏定义?

1个回答

稀疏性是否有任何精确的,即数字的定义? ”通过数字,我理解可计算的和实际上“可用的”。我的看法是:至少还没有达成共识,但仍有一些有价值的竞争者。第一个选项“只计算非零项”是精确的,但效率低下(对数值近似和噪声敏感,优化非常复杂)。第二个选项“信号的大多数元素为零或接近于零”相当不精确,无论是在“大多数”还是“接近”。

因此,“稀疏性的精确度量”仍然难以捉摸,没有更正式的方面。Hurley 和 Rickard,2009 年比较稀疏性度量,IEEE Transactions on Information Theory中最近一次尝试定义稀疏性。

他们的想法是提供一组好的稀疏度量应该满足的公理;例如,一个信号x乘以一个非零常数, αx, 应该具有相同的稀疏性。换句话说,稀疏度量应该是0-同质。有趣的是,1压缩感知或套索回归中的代理是 1-同质。这确实是每个规范或准规范的情况p,即使他们倾向于(非稳健)计数度量 0作为p0.

因此,他们详细说明了他们的六个公理,进行了计算,借鉴了财富分析:

  • 罗宾汉(从富人那里拿走,给穷人以减少稀疏),
  • 缩放(常数乘法保持稀疏性),
  • 涨潮(添加相同的非零帐户可减少稀疏性),
  • 克隆(复制数据保持稀疏性),
  • 比尔盖茨(一个人变得更富有会增加稀疏性),
  • 婴儿(添加零值会增加稀疏性)

并探究针对它们的已知措施,揭示基尼指数和一些范数或准范数可能是很好的候选者(对于后者,一些细节在Euclid in a Taxicab: Sparse Blind Deconvolution with Smoothed1/2正则化,2005 年,IEEE 信号处理快报)。我觉得这项初步工作应该进一步发展(敬请关注 SPOQ,Smoothedp超过q p/q准规范/规范比率)。因为对于一个信号x,0<pq,范数比不等式产生:

1p(x)q(x)0(x)1/p1/q

并且倾向于1(左侧,LHS)当x是稀疏的,如果不是,则在右侧(RHS)。这项工作于 2020 年作为SPOQ: Smooth ℓp-Over-ℓq Regularization for Sparse Signal Recovery应用于质谱arxiv 预印本SPOQ 发表的论文,IEEE Transactions on Signal Processing,2020Matlab 工具箱)发表。

但是,稀疏度的合理度量并不能告诉您转换后的数据是否足够稀疏,以满足您的目的。

最后,压缩感知中使用的另一个概念是信号的可压缩性,其中重新排序(降序)的系数幅度c(k)遵循幂律Cα.(k)α, 越大α,衰减越剧烈。