有很多方法可以解决这类问题。最明显的一个就是创建新功能。我能想到的最好的功能是将坐标转换为球坐标。

我还没有找到在操场上做这件事的方法，所以我只是创建了一些应该对此有所帮助的功能（罪恶功能）。在500 次迭代后，它会饱和并以 0.1 分波动。这表明不会做进一步的改进，很可能我应该使隐藏层更宽或添加另一层。

毫不奇怪，在隐藏层仅添加一个神经元后，经过 300 次迭代，您很容易得到 0.013。添加一个新层会发生类似的事情（0.017，但经过明显更长的 500 次迭代。也不足为奇，因为传播错误更难）。很可能您可以使用学习率或进行自适应学习以使其更快，但这不是重点。

理想情况下，神经网络应该能够自行找出函数，而无需我们提供球面特征。经过一些实验，我能够达到一个我们不需要任何东西的配置，除了$X_1$和$X_2$. 这个网络在大约 1500 个相当长的 epoch 后收敛。所以最好的方法可能仍然是添加额外的特性，但我只是想说没有它们仍然可以收敛。

通过作弊...theta是$\arctan(y,x)$,$r$是$\sqrt{(x^2 + y^2)}$.

理论上，$x^2$和$y^2$应该可以工作，但是在实践中，它们以某种方式失败了，即使有时它可以工作。

这是一个普通的 Tensorflow 游乐场的例子，没有添加任何功能，也没有修改。Spiral 的运行时间在 187 到 300 个 Epoch 之间，具体取决于。我使用了套索正则化 L1，所以我可以消除系数。我将批量大小减少了 1 以防止输出过度拟合。在我的第二个示例中，我向数据集添加了一些噪声，然后提高了 L1 以进行补偿。