正交意味着内积为零。例如，在使用点积作为内积的情况下，两个垂直向量是正交的。正交意味着这些向量已经被归一化，使得它们的长度为 1。

正交向量对于创建空间的基础很有用。这是因为空间中的每个点都可以表示为向量的（线性）组合。因此，例如在 3D 空间中，x=[0,0,1] y=[0,1,0] 和 z=[1,0,0] 形成一个正交基。x 的任何分量都不能用其他向量的分量来表示。这是因为它们是线性独立的

然而，这是与统计相关性不同类型的独立性。

相关性是一个不同的概念。有不同的方式来表示两个向量（随机变量 X 和 Y）的相关性。

$corr(X,Y) = \frac{cov(X,Y)}{\sigma_x \sigma_y} = \frac{E[X - \mu_x]E[Y - \mu_y]}{\sigma_x \sigma_y}$

协方差是衡量两个变量如何一起变化的量度。

另一种相关性度量是互相关。这是衡量两个函数（或向量）的相似性。

这些概念在图像处理中以许多不同的方式使用。

例如，互相关用于模板匹配。当在更大的图像中寻找小图像时，小模板图像会“滑动”到大图像上，并为每个位置计算互相关。具有高互相关性的位置可能包含我们正在寻找的图像。

线性独立分量向量的概念用于主成分分析 (PCA)。PCA 采用空间中的点云并计算一组正交基向量来表示它们。

独立分量分析 (ICA) 用于分离混合信号。即：在嘈杂的鸡尾酒会上将扬声器分开。ICA 使用信号相关性的特性来分离信号。