假设我们必须为 XOR 分类任务训练一个神经网络。
是输入以顺序方式插入?例如,我们首先插入 00 并更改权重,然后插入 01 并再次稍微更改它们,等等。或者还有其他方法可以实现吗?
假设我们必须为 XOR 分类任务训练一个神经网络。
是输入以顺序方式插入?例如,我们首先插入 00 并更改权重,然后插入 01 并再次稍微更改它们,等等。或者还有其他方法可以实现吗?
您好,欢迎来到社区。有多种方法可以训练神经网络:随机、小批量和批量。您解释的是随机模式,例如输入一个训练示例 01,在输入下一个训练示例之前计算梯度并更新网络权重。您还可以选择多个这样的示例(一个小批量)并仅在计算所有输出(对于这个特定的小批量)后更新权重。最后,您可以使用与数据集中示例总数相等的批量大小,因此只有在获得所有样本的所有输出后才能更新权重。这些方法中的每一种都有自己的优点和缺点,具体取决于您的数据集,您可能更喜欢其中一种。