我试图了解卷积与互相关之间的区别。我已经阅读了一个理解的这个答案。我也理解下图。
但是,在信号处理方面,(我对此知之甚少..),给定两个信号(或者可能是一个信号和一个滤波器?),我们什么时候使用卷积,什么时候更喜欢使用互相关,我意思是,在现实生活中分析时,我们更喜欢卷积,而何时,互相关。
看起来这两个术语有很多用处,那么,那有什么用呢?
*这里的互相关应该g*f
改为f*g
我试图了解卷积与互相关之间的区别。我已经阅读了一个理解的这个答案。我也理解下图。
但是,在信号处理方面,(我对此知之甚少..),给定两个信号(或者可能是一个信号和一个滤波器?),我们什么时候使用卷积,什么时候更喜欢使用互相关,我意思是,在现实生活中分析时,我们更喜欢卷积,而何时,互相关。
看起来这两个术语有很多用处,那么,那有什么用呢?
*这里的互相关应该g*f
改为f*g
在信号处理中,有两个问题很常见:
当输入为时,该滤波器的输出是什么?答案由给出,其中是称为滤波器“脉冲响应”的信号,是卷积运算。
给定一个噪声信号,信号是否以某种方式存在于中?换句话说,是的形式,其中是噪声吗?答案可以通过和的相关性找到。如果对于给定的时间延迟相关性很大,那么我们可能有信心说答案是肯定的。
注意,当涉及的信号是对称的时,卷积和互相关变成了同一个运算;这种情况在DSP的某些领域也很常见。
卷积和互相关这两个术语在 DSP 中以非常相似的方式实现。
您使用哪一种取决于应用程序。
如果您正在执行线性、时不变的滤波操作,您需要将信号与系统的脉冲响应进行卷积。
如果您正在“测量两个信号之间的相似性”,那么您可以将它们相互关联。
当您尝试生成匹配的过滤器时,这两个术语会一起出现。
在这里,您试图确定给定信号是否包含已知的“脉冲”(信号)。一种方法是将给定信号与已知脉冲的时间反转进行卷积:您现在正在使用卷积来执行给定信号与已知脉冲的互相关。
旁注
(对某些人来说)术语“互相关”在 DSP 领域被误用。
对于统计学家来说,相关性是衡量两个变量的接近程度以及应该在和之间的值。
正如您从 Wikipedia entry on cross-correlation 中看到的那样,使用了 DSP 版本,它们声明:
互相关是衡量两个系列的相似性,作为一个相对于另一个的滞后的函数。
DSP 定义的问题: 是这种“相似性”度量取决于每个信号中的能量。
@MathBgu我已经阅读了上面给出的所有答案,所有这些都是非常有用的一件事,我想通过考虑如下卷积公式来添加以便您更好地理解
对于互相关
我们知道等式的唯一区别是,在卷积中,在进行滑动点积之前,我们将信号翻转到 y 轴,即我们将更改为,而互相关只是滑动两个信号的点积。
我们使用卷积来获得具有两个块/信号并且它们在时域中彼此直接相邻(串联)的系统的输出/结果。
卷积和相关的含义之间有很多微妙之处。两者都属于线性代数中内积和投影的更广泛概念,即将一个向量投影到另一个向量上以确定它在后者方向上的“强度”程度。
这个想法延伸到神经网络领域,我们将数据样本投影到矩阵的每一行,以确定它与该行的“拟合”程度。每行代表某一类对象。例如,每一行可以对字母表中的一个字母进行分类以进行手写识别。通常将每一行称为一个神经元,但它也可以称为匹配过滤器。
从本质上讲,我们是在测量两个事物的相似程度,或者试图找到某事物的特定特征,例如信号或图像。例如,当您使用带通滤波器对信号进行卷积时,您试图找出它在该频带中的内容。当您将信号与正弦波(例如 DFT)相关联时,您正在寻找信号中正弦波频率的强度。请注意,在后一种情况下,相关性不会滑动,但您仍然在“关联”两件事。您正在使用内积将信号投射到正弦曲线上。
那么,有什么区别呢?好吧,考虑到卷积信号相对于滤波器是反向的。对于随时间变化的信号,这具有数据按其进入滤波器的顺序相关的效果。暂时,让我们将相关性简单地定义为点积,即将一件事投影到另一件事上。因此,在开始时,我们将信号的第一部分与滤波器的第一部分相关联。随着信号继续通过滤波器,相关变得更加完整。请注意,信号中的每个元素仅与它在该时间点“接触”的滤波器元素相乘。
因此,通过卷积,我们在某种意义上是相互关联的,但我们也试图保持信号与系统交互时发生变化的时间顺序。但是,如果过滤器是对称的,通常情况下,它实际上并不重要。卷积和相关将产生相同的结果。
通过相关性,我们只是比较两个信号,而不是试图保持事件的顺序。为了比较它们,我们希望它们面向同一个方向,即对齐。我们将一个信号滑过另一个信号,这样我们就可以在每个时间窗口中测试它们的相似性,以防它们彼此异相,或者我们正在寻找较大信号中的较小信号。
在图像处理中,情况略有不同。我们不在乎时间。不过,卷积仍然有一些有用的数学特性。但是,如果您尝试将较大图像的一部分与较小图像匹配(即匹配过滤),您不会想要翻转它,因为那样特征将不会对齐。当然,除非滤波器是对称的。在图像处理中,相关性和卷积有时可以互换使用,尤其是在神经网络中。显然,如果图像是二维数据的抽象表示,时间仍然是相关的,其中一维是时间 - 例如频谱图。
总而言之,相关性和卷积都是滑动内积,用于将一件事投影到另一件事上,因为它们随空间或时间而变化。当顺序很重要时使用卷积,通常用于转换数据。相关性通常用于在较大的事物中找到较小的事物,即匹配。如果两个“事物”中的至少一个是对称的,那么你使用哪个并不重要。