强制神经网络接近以前的模型 - 通过给定模型进行正则化

人工智能 神经网络 训练 参考请求 正则化 算法偏差
2021-10-21 14:31:05

我想知道,有没有人看过任何论文,其中训练一个网络但偏向于产生与给定模型相似的输出(例如从专家意见给出的模型或者它是以前训练的网络)。

形式上,我正在寻找执行以下操作的论文:

g:RdRD是在某些输入/输出数据对上训练的模型(不一定,但可能是神经网络){(xn,yn)}n=1N并训练一个神经网络fθ()

argminθn=1Nfθ(xn)yn+λfθ(xn)g(xn),
在哪里θ表示网络的所有可训练权重和偏差参数fθ().

所以换一种方式...fθ()正在被另一个模型的输出正则化......

0个回答
没有发现任何回复~