神经网络多重 | 平均预测

数据挖掘 Python 神经网络 预言 集成学习
2022-02-18 19:49:21

我正在训练具有各种参数的多个神经网络。我试图平均他们的预测,但我不太确定这意味着什么,我对究竟要平均什么感到困惑。这就是我的意思:例如,对于二元分类中的单个观察,最终节点将给出p一个介于 0 和 1 之间的值(如果您使用的是双曲正切激活函数,则为 -1 和 1),然后p将四舍五入为如果大于 0.5,则为 1 或 0,具体取决于您的决策边界。

现在,这是我不明白的,应该平均p1p2p3在四舍五入之前由模型产生,或者我应该将值四舍五入为真/假响应,然后计算平均值?以及它是如何工作的?

1个回答

您可以采取多种方式。所有这些都归类为机器学习中的集成方法。

投票分类器:这是最简单的方法。您只需根据所有模型的标签进行投票并使用多数标签。这意味着,您应该首先将所有标签四舍五入为 0 或 1,然后使用多数。

加权投票分类器:与上一个类似,但有些模型在投票中具有更高的权重。

更多信息请看这里