成本、损失、误差、适应度、效用、目标、标准函数之间的主要区别是什么?

人工智能 深度学习 卷积神经网络 术语 目标函数 比较
2021-10-31 18:10:31

我发现成本、损失、错误、适应度、效用、目标、标准函数这些术语是可以互换的,但任何解释的细微差别都值得赞赏。

1个回答

它们并非都可以互换。但是,所有这些表达式都相互关联,并与优化的概念相关。其中一些是同义词,但请记住,这些术语在文献中的使用可能不一致。

在机器学习中,损失函数是在给定监督信号和模型预测的情况下计算损失/错误/成本的函数,尽管该表达式也可能用于无监督学习的上下文中。术语损失函数、成本函数误差函数通常可以互换使用[1][2][3]例如,如果您使用均方误差(因为它包含术语error ),您可能更喜欢使用表达式误差函数,否则,您可能只使用其他两个术语中的任何一个。

在遗传算法中,适应度函数是评估个体/解决方案质量的任何函数[4][5][6][7]如果您正在使用遗传算法解决监督学习问题,它可以是误差函数[8]的同义词。如果您正在使用遗传算法解决强化学习问题,它也可以是奖励函数 [9]的同义词。

在数学优化中,目标函数是您要优化的函数,最小化或最大化。它被称为目标函数,因为优化问题的目标是优化它。因此,该术语可以指代误差函数、适应度函数或您想要优化的任何其他函数。[10]指出目标函数是效用函数(此处)。

效用函数通常与误差函数相反或为负,因为它衡量的是积极方面。所以,你想最大化效用函数,但你想最小化误差函数。该术语在经济学中更为常见,但有时也用于 AI [11]

至少在机器学习中,术语标准函数不是很常见。它可以指用于停止算法的函数。例如,如果您正在执行计算量很大的过程,则停止标准可能是时间。因此,在这种情况下,您的标准函数可能会在经过一定秒数后返回 true。然而,[1]将其用作目标函数的同义词。