DQN 能比 Double DQN 表现更好吗?

人工智能 强化学习 q学习 dqn 深度学习 双dqn
2021-11-13 04:33:24

我在同一环境中同时训练 DQN 和双 DQN,但 DQN 的性能明显优于双 DQN。正如我在双 DQN 论文中看到的那样,双 DQN 的性能应该比 DQN 更好。我做错了什么还是有可能?

2个回答

没有彻底的证据、理论或实验证明 Double DQN 比 vanilla DQN 更好。有很多不同的任务,论文和后来的实验只探索了其中的一部分。从业者可以从中得到的是,在某些任务上DDQN 更好。这就是 Deep Mind 的“彩虹”方法的精髓——将许多不同的方法放入桶中并取得最佳结果。

当状态的价值不好时,可能会发生这种情况。您可以在下面的链接中找到示例并对此进行解释。

看到这个:https ://medium.freecodecamp.org/improvements-in-deep-q-learning-dueling-double-dqn-prioritized-experience-replay-and-fixed-58b130cc5682