组合几个softmax输出概率

机器算法验证 机器学习 时间序列 可能性 神经网络
2022-04-06 17:37:17

我想结合五个神经网络的输出,每个神经网络都有一个三个类别的 softmax 输出层。典型的示例输出如下所示:- 在此处输入图像描述 其中图 1 是模型 1 的输出,模型 2 的图 2 等,y 轴显示输出值,x 轴是(金融)的时间戳时间序列。蓝线代表“买入”,红线代表“卖出”,黄线代表“什么都不做”。由于softmax层的输出总和为1,每个“信号”的值可以被认为是一个概率,所以我的问题是:我怎样才能将这五个独立的概率输出组合成一个“全局”概率输出?

这可能不是直截了当的,因为五个输出不是独立的,因为

  1. 尽管在 NN 训练中模型假设和目标不同
  2. 不同的模型输出之间存在明显(并且不足为奇)的相关性
  3. 每个模型中都存在自相关,并且由于上述 2,这种自相关在模型之间是相关的。

我曾想过在模型中取一个简单的总和,然后为每个不同的输出(蓝色、红色或黄色)除以 5,但从直觉上看,这似乎不是正确的做法。

我可用的另一组有用信息是第六个神经网络的输出,其 softmax 输出层有五个类,其中每个类输出是附加到上述五个 NN 模型中的每一个作为“真实”模型的“概率”,给定第六个神经网络的输入特征。这表明我应该研究最大似然或贝叶斯更新之类的东西,但我不确定我应该从这里去哪里。

1个回答

我想当我最初问这个问题时,我可能已经找到了我想要的东西。一点 googlefoo 使我找到了线性意见池及其变体。这里有几篇论文 这里, 这里, 这里, 这里,最后这里。

如果任何论坛成员有什么要补充的,将不胜感激。