其他答案都很好。但是，为了澄清直觉并提供更多细节：

• 在逻辑回归中，您最大化似然函数（求 MLE）。也就是说，您会找到最大化您观察到的数据的可能性MLE 没有封闭形式的解决方案，因此您需要使用迭代方法。这为您提供了我们权重的单点估计。$p(y|\beta_{0},\beta_{1},x)$$\beta_{0},\beta_{1}$
• 分布的初始信念开始。那么。也就是说，后验是我们对给定证据权重的更新信念，与我们的先前（初始信念）乘以可能性成正比。我们无法评估封闭形式的后验，但可以通过采样或变分方法对其进行近似。这给了我们权重的分布。例如，如果我们使用变分方法对和使用正态近似，那么我们将得到的均值和方差，以及$p(\beta_{0},\beta_{1})$$p(\beta_{0},\beta_{1}|x,y)\propto p(y|\beta_{0},\beta_{1},x)p(\beta_{0},\beta_{1})$$\beta_{0}$$\beta_{1}$$\beta_{0}$$\beta_{1}$也是。

有关这两种技术的更多详细信息，这些讲座的抄写员笔记非常好http://web.cse.ohio-state.edu/~kulis/teaching/788_sp12/scribe_notes/lecture6.pdf。

假设对于有一组二元观测 ，并且对于每个观测，都有一个相关的解释变量。逻辑回归假设 如果您通过最大似然获得参数的点估计，那么您只需使用上述假设。但是，如果您使用贝叶斯方法获得参数的估计值，那么您需要为和定义先验，称之为。这个先验连同上面的逻辑回归假设是贝叶斯逻辑回归。$Y_i$$i=1,\ldots,n$$X_i$

$$Y_i \stackrel{ind}{\sim} Ber(\pi_i), \quad \ln\left(\frac{\pi_i}{1-\pi_i}\right)=\beta_0+\beta_1 X_i.$$ $\beta_0$$\beta_1$$p(\beta_0,\beta_1)$

我并不声称自己是逻辑回归方面的专家。但我想它是这样的——假设是一个二进制随机变量，取值或。定义 其中是自变量（为简单起见，我假设只有一个预测变量）。然后逻辑回归假设形式 其中独立于并且具有均值，并且$Y$$0$$1$

$$\pi=\mathbb{P}\left(Y=0∣X\right)\text{,}$$ $X$ $$\ln\left(\dfrac{\pi}{1-\pi}\right)=\beta_0+\beta_1 X + \epsilon$$ $\epsilon$$X$$0$$\beta_i$使用最大似然估计。对于贝叶斯逻辑回归，我想你使用类似 并为的分布的先验分布。这是我有限的理解，我相信线性判别分析的基础。 $$\pi = \dfrac{\mathbb{P}\left(X = x\mid Y = 0\right)\mathbb{P}\left(Y = 0\right)}{\displaystyle\sum\limits_{j}\mathbb{P}\left(X = x\mid Y = j\right)\mathbb{P}\left(Y = j\right)}$$ $X \mid Y = j$$Y$