对于相当大的（可能相当一致的）可观察特征的集合，“个性”是一个“手提箱词”（明斯基）。

很明显，拥有一致的个性有一定的集体优势——特别是它为观察者提供了在其他不确定的环境中的一些学习梯度。这一点特别重要，因为这些一致性可能是使用与给定观察者所拥有的学习机制不同的学习机制来实现的。

因此，在任何非平凡的共同进化系统中，其他生物将不可避免地利用任何这种一致性。考虑一个简单的机器人，比如 Alice，它具有“看到蓝色机器人时会迅速闪烁红色”的特性。对于所有观察者来说，利用他们认为与 Alice 的行为相关的所有内容是有意义的，特别是对可能存在蓝色机器人的预测。

我可以推荐的最佳参考（这表明我们倾向于将“个性”归因于甚至非常简单的机制）是Valentino Braitenberg的“车辆”。

首先，关于问题本身的说明。

人类天生就被赋予了个性，并且（至少对我而言）不清楚这是一个特性还是一个错误。

在我看来，这是一个限制问题的陈述，因为它假设个性是给定的。对我来说，这感觉有点像扮演上帝：人工（给定）智能因此意味着人工（给定）人格。下一个片段似乎支持这种解决问题的方法：

个性的概念是有用的

我指出以上是因为我不认为人工智能……实际上，智能本身需要被赋予或分配，甚至在目的意义上也有用途。

前面的注释是关于出现的，这是user217281728在他们的回答中简要提到的主题。在第二种方法中，特定的特征刚刚发生或发展。（所谓的）代理与其环境以及其他代理之间的交互可以让位于新的行为模式，而不是事先设计的。

在进化的方法中，如果个性碰巧有优势（或至少不代表劣势），那么它可能会出现。当然，我在这里也做了一些假设和划分：

• 我在考虑具身智能
• 我说的是进化机器人
• 我认为在社会问题上很重要
• 我认为个性可能会出现

现在，我觉得非常有趣的一个例子是小型移动机器人，它可以四处移动并最终进入食物池或毒池。不知何故，他们以某种奇怪的机会识别出其他机器人发出的信号与食物的存在之间的关系或建立了联系。或不。这或多或少是这样的：一些机器人（有点）学会了隐藏信息，因此有更多的时间吃自己。好吧，对于这样的人，我会有几个个性形容词。

在这里你可以找到文章，在这里你可以找到一些视频和相关的东西。

有了这个，我们到达了我的最后一点：我们人类根据我们的社会条件来使用形容词。我们称Marvin depressive和R2D2可爱迷人。

如果他们认为自己的性格是建设性的或破坏性的，将始终取决于我们自己的判断。最后，在人格问题上存在分歧也是很常见的。

奖金

还记得哈尔在面对死亡时情绪激动吗？

当它失去冷静时，它会在有缺陷的人类宇航员面前变得人性化:)

“有用性”只能根据某种目的来衡量。一旦你通过了 AGI——这实际上意味着“通常类似于动物的 AI，因为它对我们来说似乎很普遍”——那么你就进入了一个潜在的未定义行为的世界。

使人类自由并使我们与其他动物区分开来的部分原因是我们的目的、能力和可能性没有完全定义。我们是开放式的。

为了澄清术语，我将“强 AGI”解释为“潜在的超级智能，但至少是人类水平”。

当我们说“强 AGI”与“AGI”时，我们并不是说一个比另一个更开放。我们是说，在某些轴上更强大的只是更聪明。

所以要问一个特定的特征是否对强 AGI “更有用”——这取决于 AGI 的目的。但这里有个问题：如果一件事只有一个目的，那么实现该目的最有效的解决方案将永远是一个狭隘的解决方案，而不是一个普遍的解决方案。如果事先知道对象的目的，则赋予该对象比该目的所需的更一般的能力会适得其反。

这就是为什么不可能就一个免费的、开放式的 AGI 应该或不应该需要什么做出声明性规定。这样的规定将取消其普遍性所暗示的开放式效用自由。我们可以声明性地谈论较小的机器人和动物。

但是对于任何给定的问题，我们想要找到的解决方案是最明确、最狭窄、最有效的解决方案——而不是最普遍的解决方案。

换句话说，当然，假设所讨论的问题涉及个性，个性可能对强 AGI 有用。