数据挖掘 - 证明 GDA 决策边界是线性的 - 吾爱随笔录

证明 GDA 决策边界是线性的

数据挖掘机器学习高斯判别分析

2022-02-19 10:39:57

我的尝试：
（a）我解决了这个问题 $a=\ln{\frac{P(X|C_0)P(C_0)}{P(X|C_1)P(C_1)}}$

(b) 这就是我遇到麻烦的地方。我正在将发行版插入 $\ln{\frac{P(X|C_0)P(C_0)}{P(X|C_1)P(C_1)}}$ 我得到 $a=\ln{\frac{P(C_0)}{P(C_1)}}+\frac{1}{2}(x-\mu_1)^T\Sigma^{-1}(x-\mu_1)-\frac{1}{2}(x-\mu_0)^T\Sigma^{-1}(x-\mu_0)$ .
我知道 $b=\ln{\frac{P(C_0)}{P(C_1)}}$ 和 $w^Tx=\frac{1}{2}(x-\mu_1)^T\Sigma^{-1}(x-\mu_1)-\frac{1}{2}(x-\mu_0)^T\Sigma^{-1}(x-\mu_0)$ .
我不确定如何简化 $w^Tx$ 这样我就可以解决 $w$ . 还是我做错了什么？

1个回答

如果展开项，您可以看到二次项抵消了。

\begin{aligned} a & = \ln \frac{P (C_{0})}{P (C_{1})} + \frac{1}{2} (x - μ_{1})^{T} Σ^{- 1} (x - μ_{1}) - \frac{1}{2} (x - μ_{0})^{T} Σ^{- 1} (x - μ_{0}) \\ = \ln \frac{P (C_{0})}{P (C_{1})} + \frac{1}{2} [x^{T} Σ^{- 1} x - 2 x^{T} Σ^{- 1} μ_{1} + μ_{1}^{T} Σ^{- 1} μ_{1}] \\ - \frac{1}{2} [x^{T} Σ^{- 1} x - 2 x^{T} Σ^{- 1} μ_{0} + μ_{0}^{T} Σ^{- 1} μ_{0}] \\ = (μ_{0} - μ_{1})^{T} Σ^{- 1} x + \ln \frac{P (C_{0})}{P (C_{1})} + \frac{1}{2} [μ_{1}^{T} Σ^{- 1} μ_{1} - μ_{0}^{T} Σ^{- 1} μ_{0}] \end{aligned}

$\begin{align} a &= \ln \frac{P(C_0)}{P(C_1)} + \frac12(x - \mu_1)^T\Sigma^{-1}(x - \mu_1) - \frac12(x-\mu_0)^T\Sigma^{-1}(x-\mu_0)\\ &=\ln \frac{P(C_0)}{P(C_1)} + \frac12\left[x^T\Sigma^{-1}x-2x^T\Sigma^{-1}\mu_1+\mu_1^T\Sigma^{-1}\mu_1\right]\\& - \frac12\left[x^T\Sigma^{-1}x-2x^T\Sigma^{-1}\mu_0+\mu_0^T\Sigma^{-1}\mu_0\right]\\ &= (\mu_0-\mu_1)^T\Sigma^{-1}x+\ln \frac{P(C_0)}{P(C_1)} +\frac12\left[\mu_1^T\Sigma^{-1}\mu_1-\mu_0^T\Sigma^{-1}\mu_0\right] \\ \end{align}$

其它你可能感兴趣的问题

上一篇GridSearchCV 与 MLPRegressor 与 Scikit 学习下一篇TDIDT 决策树算法