与使用传统的反向传播算法相比,使用进化算法设计和训练人工神经网络有何优势?
进化算法与传统的反向传播方法相比有何优势?
人工智能
神经网络
比较
反向传播
进化算法
2021-11-11 23:06:39
2个回答
与反向传播不同,进化算法不需要目标函数相对于您要优化的参数是微分的。因此,您可以优化网络中的“更多事物”,例如激活函数或层数,这在标准反向传播中是不可能的。
另一个优点是,通过定义变异和交叉函数,您可以影响参数搜索空间的探索方式。
除了弗兰克的回答之外,可能存在更好的最优值(甚至是全局最优值),这些最优值与梯度相反(可能是某些局部最优值的方向)。进化算法具有搜索周围区域的空间,而反向传播将始终沿梯度方向移动。在没有保证的情况下(由于它们的随机性),进化算法可能能够找到反向传播根本无法找到的解决方案。
其它你可能感兴趣的问题