这可以通过与最小二乘估计和条件期望相关的所有地方使用的经典方法来证明。让,然后写:
展开完全平方并证明叉积项为 0 如下:
其中第一个等式来自是的函数(技术上, -measurable)因此可以从条件期望中取出。由于期望的线性和我们对的定义,第二个等式成立。所以,
f(x)=E(Y|X=x)
EY|X[(Y−c)2|X=x]=EY|X[(Y−f(x)+f(x)−c)2|X=x]
EY|X[(Y−f(x))(f(x)−c)|X=x]=(f(x)−c)EY|X[Y−f(x)|X=x]=(f(x)−c)(f(x)−f(x))=0
f(x)−cxσ(X)f(x)EY|X[(Y−c)2|X=x]=EY|X[(Y−f(x)+f(x)−c)2|X=x]=EY|X[(Y−f(x))2|X=x]+(f(x)−c)2≥EY|X[(Y−f(x))2|X=x]
并且可以通过取来获得相等,这是解决方案。c=f(x)