机器算法验证 - Dantzig 选择器、LASSO、LAD LASSO - 吾爱随笔录

我想知道这个。什么时候最好使用 Dantzig Selector（无限范数误差测量加上 L1 正则化器）、LASSO（均方误差测量加上 L1 正则化器）和 LAD LASSO（包含最小绝对偏差的误差测量加上 L1正则化器）？为了清楚起见，我将引用每个解决的最小化问题：

套索

min_{β} {| y - X β |}_{2} + λ {| β |}_{1}

$\min_{\beta} \left| \mathbb{y} - \mathbb{X} \boldsymbol{\beta}\right|_2 + \lambda \left|\boldsymbol{\beta}\right|_1$

LAD - LASSO

min_{β} {| y - X β |}_{1} + λ {| β |}_{1}

$\min_{\beta} \left| \mathbb{y} - \mathbb{X} \boldsymbol{\beta}\right|_1 + \lambda \left|\boldsymbol{\beta}\right|_1$

Dantzig 选择器

min_{β} {| X^{T} (y - X β) |}_{\infty} + λ {| β |}_{1}

$\min_{\beta} \left| \mathbb{X}^T( \mathbb{y} - \mathbb{X} \boldsymbol{\beta})\right|_{\infty} + \lambda \left|\boldsymbol{\beta}\right|_1$

这里代表观测值，代表每个观测值的基函数，是回归系数。下标表示所使用的规范的选择。倍交叉验证确定的正系数。 $\mathbb{y}$ $\mathbb{X}$ $\boldsymbol{\beta}$ $\lambda$ $n$

如果存在标准，可以从数据集中确定吗？

编辑：我认为一个更合理的问题是：从这些方法中的每一种获得的拟合特征是什么。例如，我正在寻找类似的东西，

与 LASSO 相比，LAD-LASSO 对异常值不太敏感。http://hansheng.gsm.pku.edu.cn/pdf/2007/LAD-Lasso.pdf

如果可以的话，也请提供参考。