模拟退火与遗传算法？

模拟退火是一种材料科学类比，涉及引入噪声以避免由于局部最小值导致的搜索失败。请参阅下面的图片。为了提高找到全局最小值而不是次优局部最小值的几率，通过模拟布朗（热）运动引入了随机元素。模拟退火的变体包括注入具有各种分布的随机数和小批量的平均效果（将批次划分为分段并在每个分段之后执行网络参数调整）。

遗传算法是基于突变、减数分裂、共生、检验、不足消除和递归等原理的搜索方法。这种方法的优点是模拟有性生殖，其中存在来自两个个体的显性遗传特征产生包含两者中最好的个体的儿童个体的可能性。在儿童群体中，出现这种混合体的概率更高。几代之后，甚至更高。

如果有的话，模拟退火在哪些问题上比遗传算法表现得更好？

只有比较两者的原始、纯版本，而不是自引入以来发展的变体，才能很好地回答这个问题。

模拟退火或其他随机梯度下降方法通常更适合需要高精度的连续函数逼近，因为纯遗传算法只能在任何给定位置选择两个基因中的一个。

根据我的经验，对于大多数问题，遗传算法似乎比模拟退火执行得更好。

这些性能结果对其他人具有价值，应该作为论文发表，作为开源项目呈现，或在适当的 AI 场所发布知识共享。至少，结果可以放在上述问题或答案中。

参考

[1]模拟退火优化，科学 S. Kirkpatrick，CD Gelatt 和 MP Vecchi，科学新系列，卷。220，第 4598 号，1983 年 5 月，第 671-680 页

[2] N. Metropolis、A. Rosenbluth、M. Rosenbluth.、A. Teller。E.泰勒，J.化学。物理。21. 1087 110511

• Ising spin glass 的优化模拟退火，2015 年，SV Isakov 等。人。

• 一种并行模拟退火方法，用于具有同时提货-交货和时间窗的车辆路径问题，2014 年，王超等。人。

• 基于特征的模拟退火调整应用于基于课程的课程时间表问题，2015 年，Ruggero Bellio 等。人。

其他答案的图片

• 如果数字值仅仅是估计，为什么不回到模拟的人工智能呢？

• 检查组合优化算法实现优度的方法，绘制自https://github.com/facebookresearch/nevergrad/blob/master/nevergrad/functions/corefuncs.py

模拟退火算法通常更擅长解决迷宫问题，因为它们的概率“突变”方法不太可能陷入局部最小值。见这里。遗传算法更擅长训练神经网络，因为它们受遗传启发的训练算法。这使它们在更复杂的情况下更加通用和高效。