很容易指出，真正的随机数不能完全通过编程生成，需要一些随机种子。

这是真实的。其实用软件是不可能解决的。如果没有初始随机种子或硬件支持，任何纯软件技术都无法生成随机性。

人工智能软件也是如此。没有使用确定性软件的人工智能设计可以做到这一点——例如，任何没有神奇的、无法解释的“随机”函数的图灵机都可以被证明保持确定性，无论多么复杂。这是因为确定性函数的任何组合都是确定性的。如果不完全遵循流程，它可能无法预测，它可能是“混乱的”并且严重依赖于初始条件，但它是 100% 确定性和可重复的。

另一方面，人类可以独立于其他因素轻松生成任何随机数。

通常没有高质量的随机性。目前尚不清楚我们如何做出随机决定，但完全有可能在内部我们有效地依赖来自环境的噪音或我们自己的内部“硬件”做一些简单的事情，例如神经元之间的竞赛决策（时间会因电脉冲的速度而异，神经递质跨突触的扩散时间等）

这是否表明绝对随机数生成是一个 AI 概念？

我认为这是正交问题。我们已经可以产生非常高质量的人工随机性——优于人类用于有意识决策的人类质量（例如“选择 1 到 10 之间的随机数”）。这些人工随机数生成系统是现代密码学的一部分，并且经过了彻底的测试。

本质上“真正的”人工随机性是使用硬件解决的问题，不涉及任何传统上被称为人工智能的东西。

相反，人工智能系统通常依靠随机函数来打破对称性、打破联系、规范模型等。所以看起来在人工代理中某种 RNG 是必要的。然而，即使是伪随机数生成器 (PRNG) 似乎也适用于此目的。Mersenne Twister 是在神经网络中生成随机数以进行权重初始化、数据集洗牌、dropout 正则化或模拟 RL 环境或采取探索性行动时的一种非常常见的选择。尽管它不是“真正的”随机的，但 PRNG 可以很好地用于这些目的。

我使用的“真实”随机性的工作定义：即使您像现代物理学所允许的那样准确地了解系统的状态，也无法以比固定猜测更好的准确度来预测输出。

人类的随机性已经通过了这个测试。如果您让某人在 1 到 9 之间随机选择一个数字，根据统计分析，您猜对值的几率通常高于 9 分之一。如果我们能够对大脑进行良好的状态测量，那么就有可能进行高精度的预测——尽管这是未知的，并且用当前的技术是不可能的。

这么好的问题。我同意 Dennis Soemers 的评论，即人类不擅长思考随机数（想想任何纸牌技巧）。然而，我们非常擅长通过我们的行动创造随机性。

如果您考虑移动电脑鼠标、股市或玩彩票，人类非常擅长通过我们的构造或行为来创造随机性。

我会提出，也许随机性需要成为 AGI 的一部分，以使其更能跳出次优的山谷或改变它的拓扑结构，而不是始终坚持局部极小值。