我在用我的线性回归问题的损失,我必须证明我的如果样本数,损失是严格凸的大于输入维度.
我想,如果我能证明我的黑森矩阵,为了损失是肯定的,那么就可以了。这里,是特征矩阵 样本作为行和 列。
还有,我明白 ,
作为, ==(这是欧几里得范数) 即 hessian 矩阵是半正定的。
但我不明白如何证明是正定的或损失是严格凸的。
- 请忽略中的常量损失。
我在用我的线性回归问题的损失,我必须证明我的如果样本数,损失是严格凸的大于输入维度.
我想,如果我能证明我的黑森矩阵,为了损失是肯定的,那么就可以了。这里,是特征矩阵 样本作为行和 列。
还有,我明白 ,
作为, ==(这是欧几里得范数) 即 hessian 矩阵是半正定的。
但我不明白如何证明是正定的或损失是严格凸的。
- 请忽略中的常量损失。
我认为线性独立输入的额外假设对于具有严格凸损失函数是必要的。线性独立与给你,这意味着是正定的,如.