在线性模型中区分 RSS wrtββ

机器算法验证 回归 残差 矩阵 毫秒
2022-03-25 22:27:06

我正在阅读“统计学习的要素”一书。书上说 在此处输入图像描述

但是当我试图证明它时,我得到以下信息:

RSS(β)=(yXβ)T(yXβ)
RSS(β)=yTyβTXTyyTXβ+βTXTXβ
RSSβ=yTXyTX+βT(XTX+XTX)=2βT(yTX+XTX)

我的推导有什么问题?

我看到关于矩阵微积分的维基页面。我发现我被分子布局符号或分母布局符号的含义误导了。任何人都可以在使用分子布局表示法和使用分母布局表示法时给出直观的解释。

1个回答

请注意您从第一个学期中提取了一个额外的所以你在那里的代数错了。yTXyTX+βT(XTX+XTX)2βT(yTX+XTX)βT

你有, 注意是一个标量,因此

RSS=yTyβTXTyyTXβ+βTXTXβ.
yTXβyTXβ=(yTXβ)T=βTXTy
RSSβ=2XTy+2XTXβ.

2XTy+2XTXβ=2XT(yXβ).