在使用 Theil-Sen 估计器获得稳健的线性回归(在我的情况下为 2D)后,我想决定一组异常点。
考虑到 Theil-Sen 解决方案,是否有一种自然的方法可以做到这一点?还是只是简单地取所有残差超出任意截止值的点?
在使用 Theil-Sen 估计器获得稳健的线性回归(在我的情况下为 2D)后,我想决定一组异常点。
考虑到 Theil-Sen 解决方案,是否有一种自然的方法可以做到这一点?还是只是简单地取所有残差超出任意截止值的点?
我假设您熟悉估算器的故障点的概念。异常值识别规则也存在类似的概念(参见 [3])。
表示拟合残差的由于 (a) 和 (b) 将残差大于分位数 将确保您的异常值识别规则具有与其所基于的估计器相同的分解点。使用较高的值会降低(您的异常值识别规则的)分解点,而使用较低的值不会增加它(您的异常值识别规则的分解从下方受您使用的拟合分解点的限制)识别异常值)。
增加将降低将非异常观测值误分类为异常值的风险(设置将确保没有非异常观测值被误分类为异常值)。但是您可以通过使用一步重称 ( 1 ) 获得更好的结果。通过一步重新加权,您可以将非异常观察值误分类为异常值的渐近风险设置为任何小值,而不会影响异常值识别规则的分解点(尽管您将增加离群值必须与可识别的大量数据的最小距离,这个距离与离群值识别规则的分解点的概念无关)。作为成本,您需要添加关于残差向量分布的假设。
在任何情况下,对于高于阈值值,在两种风险(将非异常数据点错误分类为异常值和将异常值错误分类为非异常数据点)之间存在一系列可接受的权衡,对应于初始估计量的分解点。对于基于 Theil-Sen 估计器的异常值识别规则,。
从统计的角度来看,使用 Theil-Sen 估计器来查找异常值是次优的。通过使用更现代的方法(例如 FastLTS),您将获得更好的权衡条件以及对异常值具有更高鲁棒性的选择。FastLTS 还包括一个重新加权步骤,但基于比 Theil-Sen 拟合更稳健的初始估计(因此 FastLTS 的可以高达)。最近的评论见2。