机器算法验证 - 泊松分布数据的逻辑回归 - 吾爱随笔录

泊松分布数据的逻辑回归

机器算法验证物流泊松分布统计学习

2022-03-18 17:35:03

从一些机器学习笔记中谈到一些判别分类方法，特别是逻辑回归，其中 y 是类标签（0 或 1），x 是数据，据说：

如果 $x|y = 0 \sim \mathrm{Poisson}(λ_0)$ ，和 $x|y = 1 \sim \mathrm{Poisson}(λ_1)$ ，然后 $p(y|x)$ 将是逻辑的。

为什么这是真的？

1个回答

$Y$ 对于任何给定的值有两个可能的值 $X$ . 根据假设，

Pr (X = x | Y = 0) = \exp (- λ_{0}) \frac{λ_{0}^{x}}{x!}

$\Pr(X=x|Y=0) = \exp(-\lambda_0) \frac{\lambda_0^x}{x!}$

和

Pr (X = x | Y = 1) = \exp (- λ_{1}) \frac{λ_{1}^{x}}{x!} .

$\Pr(X=x|Y=1) = \exp(-\lambda_1) \frac{\lambda_1^x}{x!}.$

因此（这是贝叶斯定理的一个小例子） $Y=1$ 有条件的 $X=x$ 是后者的相对概率，即

Pr (Y = 1 | X = x) = \frac{\exp (- λ_{1}) \frac{λ_{1}^{x}}{x!}}{\exp (- λ_{1}) \frac{λ_{1}^{x}}{x!} + \exp (- λ_{0}) \frac{λ_{0}^{x}}{x!}} = \frac{1}{1 + \exp (β_{0} + β_{1} x)}

$\Pr(Y=1|X=x) = \frac{\exp(-\lambda_1) \frac{\lambda_1^x}{x!}}{\exp(-\lambda_1) \frac{\lambda_1^x}{x!} + \exp(-\lambda_0) \frac{\lambda_0^x}{x!}}= \frac{1}{1 + \exp(\beta_0 + \beta_1 x)}$

在哪里

β_{0} = λ_{1} - λ_{0}

$\beta_0 = \lambda_1 - \lambda_0$

和

β_{1} = - \log (λ_{1} / λ_{0}) .

$\beta_1 = -\log(\lambda_1/\lambda_0).$

这确实是标准的逻辑回归模型。

其它你可能感兴趣的问题

上一篇在 sklearn 模型中，作为停止标准的 tol（公差）到底是什么？下一篇多重 R 平方和调整后 R 平方之间的主要区别是什么？