• 我随机生成数百万组三元组 $\lbrace x_0, x_1, x_2 \rbrace$ 范围内 $(0,1)$，然后计算多项式的对应系数 $(x-x_0)(x-x_1)(x-x_2)$，这导致三重组以以下形式归一化 $\lbrace { {x_0+x_1+x_2 \over 3} , {\sqrt{x_0x_1+x_1x_2+x_0x_2 \over 3}} , {\sqrt[3]{x_0x_1x_2}}} \rbrace$;

• 之后，我将系数三元组输入到 5 层神经网络 $\lbrace 3,4,5,4,3 \rbrace$，其中所有激活函数设置为sigmoid，学习率设置为0.1；

• 然而，我只得到了一个非常糟糕的交叉验证，大约 20%。

我怎样才能解决这个问题？

背景

我原来的问题是一个动态逆问题。在那个问题中，我有成千上万的观察结果$O$，从这些观察中，我需要恢复数百个参数 $P$. 模拟过程从$P$ 到 $O$ 计算起来非常容易且便宜，但是从 $O$ 到 $P$是高度非线性的，几乎是不可能的。我的想法是训练一个神经网络$O$ 作为输入和 $P$作为输出。为了检验这个想法的可行性，我使用了一个三阶多项式方程来进行验证。

半年后更新

每层有更多的节点，我已经成功地训练了一个神经网络。拓扑设置为$\lbrace 3, 64, 64, 64 \rbrace$. 最重要的技巧是，对生成的三元组进行排序$\lbrace x_0, x_1, x_2 \rbrace$, 确保 $x_0 <= x_1 <= x_2$ 总是成立。