机器算法验证 - 为什么是L ( z) = φ ( z) - z( 1 - Φ ( z) ) ≥ 0L(z)=ϕ(z)−z(1−Φ(z))≥0? 为什么它（排序）是线性的？ - 吾爱随笔录

机器算法验证正态分布损失函数

2022-04-17 19:28:44

在这个问题中，显然，OP 对名称不明确的损失函数“正常损失函数”感兴趣，该损失函数定义为

L (z) = ϕ (z) - z (1 - Φ (z)) .

$L(z) =\phi(z) - z \left(1 - \Phi(z)\right).$

基于这个快速绘图，对于足够小的值，该函数是非负的并且基本上是线性的 $z$ .

对我来说，为什么这必须是非负的并不明显，为什么它必须基本上是线性的，对于小 $z$ . 这种行为有直观的解释吗？

1个回答

由于在区间 $x \in [z, \infty)$ 很清楚 $x \ge z,$ 利用这个事实 $\phi^\prime(x) = -x \phi(x)$ 总结

ϕ (z) = \int_{z}^{\infty} (- ϕ^{'} (x)) d x = \int_{z}^{\infty} x ϕ (x) d x \geq z \int_{z}^{\infty} ϕ (x) d x = z (1 - Φ (z)),

$\phi(z) = \int_z^\infty (-\phi^\prime(x))dx = \int_{z}^\infty x \phi(x) dx \ge z \int_z^\infty \phi(x) dx = z(1-\Phi(z)),$

QED。

关于第二个问题，请注意

L^{'} (z) = ϕ^{'} (z) + z ϕ (z) - (1 - Φ (z)) = 1 - Φ (z),

$L^\prime(z) = \phi^\prime(z) + z\phi(z) - (1-\Phi(z)) = 1-\Phi(z),$ 屈服

L

$L$ 作为一个整体

L (z) = \int_{\infty}^{z} (1 - Φ (x)) d x > 0,

$L(z)=\int_{\infty}^z (1-\Phi(x))dx \gt 0,$ 这为第一个问题提供了另一种解决方案。自从

1 - Φ (z) \approx 1

$1-\Phi(z) \approx 1$ 为了

z ≪ 0,

$z\ll 0,$

L

$L$ 接近斜率的渐近线

- 1

$-1$ 作为

z \to - \infty .

$z\to-\infty.$

其它你可能感兴趣的问题