不稳定通常意味着有界输入的无界输出。换句话说，一个滤波器的输出可以变得无限大，尽管输入完全没问题并且是“正常”大小。一个简单的例子是差分方程 $y[n] = x[n] + y[n-1]$。如果我们计算阶跃响应，即$x[n] = u[n]$，我们得到y[0] = 1, y[1] = 2, y[2] = 3 ...输出甚至无限增长尽管输入是一个表现完美的信号，以 1 为界。

一个不稳定的 IIR 滤波器就像一个不稳定的运算放大器电路，除了输入和输出是数字流而不是电压。

所以输出可能会振荡，卡在最小值/最大值，或者通常只是被压碎。就像一个不稳定的运算放大器电路一样，它可能对某些输入起作用，而对另一些输入振荡。

如果设计错误，几乎任何类型的涉及反馈的系统都可能不稳定。这是因为一些输出反馈到输入中（因此是反馈！），所以一个不稳定的系统会不断地反馈越来越多，直到它变得疯狂。

IIR 滤波器与运算放大器滤波器并没有什么特别之处——它们都有反馈，并且可以根据极点而稳定或不稳定，极点代表传递函数的反馈部分。

这实际上是 FIR 数字滤波器和 IIR 数字滤波器之间的区别：FIR 滤波器没有任何反馈，因此它们永远不会不稳定（这里的权衡是等效的 FIR 滤波器通常需要更多的计算）。它们基本上是纯粹的前馈，而不是像 IIR 那样有反馈（可能还有一些前馈）。

IIR 滤波器具有极点，这意味着它具有来自系统输出的反馈，该反馈因素会影响其输出计算。离散时间系统的极点的绝对幅度必须小于 1，系统才能稳定。这相当于使极点落在复平面中的单位圆内（通常指与系统的 z 域传递函数相关的 z 平面）。

“现实世界”系统（可以通过具有常数系数的线性微分方程建模的系统 - 因此可以由拉普拉斯域或 S 域中的传递函数表示）的类似情况是系统传递函数的极点必须位于 S 平面的左侧。

对于离散时间系统，如果极点在单位圆之外，则内部表示的值以及系统输出可以无限制地增长。如果极点位于单位圆上，则系统内部的值以及输出可能会发生振荡。

对于一个稳定的系统，内部值和系统输出预计是系统输入的函数。如果系统是振荡的或具有超过用于表示内部值的数字大小（寄存器溢出）的值，则不会出现这种情况。

如果极点太靠近单位圆，系统可能会略微稳定。在这种情况下，系统可能会针对某些有限的输入条件集表现，但对于其他条件可能会变得不受控制。原因是 DSP 系统本质上是非线性的。内部值通常使用定点算术表示，并且总是存储在有限大小的寄存器中，因此如果超过可以表示的最大值，系统就会出现非线性。DSP系统的另一个特点是信号被量化。信号量化为系统增加了低水平的非线性效应。量化误差通常被建模为噪声，但它可能与系统值相关并导致称为极限环的振荡。

必须注意避免在定点表示中饱和（达到绝对最大值）。一般来说，如果超过绝对值，最好将表示保持在最大值而不是导致值的符号反转。这称为饱和限制，它可以更好地保留允许符号反转的系统行为。

一般来说，不稳定的 DSP 系统会饱和到一个固定值，或者由于内部的非文学性而以一种混乱的方式振荡。

当系统不稳定时，即使系统的输入是有限的，系统的输出也可能是无限的。这导致了许多实际问题。例如，不稳定的机械臂控制器可能会导致机器人危险地移动。此外，不稳定的系统通常会造成一定程度的物理损坏，这可能会变得昂贵。尽管如此，许多系统本质上是不稳定的——例如，战斗机或起飞时的火箭，就是自然不稳定系统的例子。尽管我们可以设计稳定系统的控制器，但首先重要的是要了解稳定性是什么，它是如何确定的，以及它为什么重要。