关于最小化矩阵范数(AB-C)

数据挖掘 矩阵分解 线性代数
2022-03-12 06:14:47

给定 A、B 和 C 是 dim(A) = mxn、dim(B) = nxp 和 dim (C) = mxp 的矩阵,问题要求评估

我需要学习

A~
这样
minA~||A~TBC||

minA~||A~A||

1个回答

一般来说,你不能。你可以找到一个矩阵,将最小化||A~TBC||,另一个最小化||A~A||,但是,通常,您找到的两个矩阵不会相同。事实上,解决第二个问题的矩阵总是A~=A, 而如果||ATBC||不是第一个函数的最小值,那么你的问题没有解决方案。

但是,机器学习从业者会做什么?与其寻找解决这两个问题(可能不存在)的矩阵,不如解决这两个问题的组合。您可以旨在找到最小化的矩阵

||A~TBC||2+||A~A||2
或者,一般来说,最小化的矩阵
||A~TBC||2+λ||A~A||2
对于一些λ>0. 如果λ0,那么你只是在解决第一个问题,如果λ>>0,那么你只是在解决第二个问题。

而且,这只是一个二次优化问题,可以使用梯度下降来解决,并将提供一个唯一的全局最大值。