数据挖掘 - 给定一个目标向量和一个特征向量，如何计算权重 - 吾爱随笔录 - 问答

给定一个目标向量和一个特征向量，如何计算权重

数据挖掘机器学习

2022-03-12 16:33:20

在幻灯片的第 13 页，给定 $t$ 和 $X$ 如下。我不明白我们是怎么得到的 $w$ .

t = [t^{(1)}, t^{(2)}, \dots, t^{(N)}]^{T}

$t=[t^{(1)},t^{(2)}, \ldots, t^{(N)} ]^T$

X = [\begin{matrix} 1, x^{(1)} \\ 1, x^{(2)} \\ ⋮ \\ 1, x^{(N)} \end{matrix}]

$X=\begin{bmatrix}1, x^{(1)} \\ 1, x^{(2)} \\ \vdots\\1, x^{(N)} \end{bmatrix}$

然后：

w = (X^{T} X)^{- 1} X^{T} t

$w=(X^TX)^{-1}X^Tt$

1个回答

最小二乘问题是最小化

‖ X w - t ‖^{2}

$\|Xw-t\|^2$

将它相对于微分并将其等同于，我们有 $w$ $0$

2 X^{T} (X w - t) = 0

$2X^T(Xw-t)=0$

因此，我们有

X^{T} X w - X^{T} t = 0

$X^TXw-X^Tt=0$

即

X^{T} X w = X^{T} t

$X^TXw=X^Tt$

w = (X^{T} X)^{- 1} X^{T} t

$w=(X^TX)^{-1}X^Tt$

其它你可能感兴趣的问题

上一篇Python 列表格式化下一篇哪些无监督机器学习算法可用于检测保险欺诈？