Gibbs 采样器退火计划的启发式

计算科学 算法
2021-12-11 16:45:08

假设在有限温度下使用玻尔兹曼分布(或者如果您愿意,模拟退火)执行吉布斯采样。一般来说,我们想要退火:随着采样器收敛到平衡,温度应该降低。

如果采样器的收敛速度(本地时间)不变,则没有真正的理由改变温度。另一方面,如果收敛速度降低,那么温度也应该降低。这自然会导致将温度设置为(与)收敛速率成比例的启发式方法。

文献中是否探索过这种启发式(或类似的启发式)?非常欢迎具体的参考资料和/或流行语。

1个回答

在创建模拟退火课程调度程序(该页面底部)的工作中,我遇到了一篇好论文:

Huang, M., F. Romeo 和 A. Sangiovanni-Vincentelli,“模拟退火的有效一般冷却计划”,Proc。IEEE 国际计算机辅助设计会议 (ICCAD),第 381-384 页,1986 年。

这项工作概述了一些用于模拟退火的自适应冷却计划,其中考虑了“分数”的最近变化,以根据需要抑制或加速温度变化。(“分数”是指在接受的提案位置评估的玻尔兹曼分布。)

他们研究了模拟退火问题的“相变”特性:冷却趋于稳定进行,经历温度下降较大的相变,然后稳定继续。这种相变有助于量化优化问题的复杂性。