是的，对于你提出的一些建议。对某些人不。

今天，公司被授予权利：拥有财产、赚取收入、纳税、为政治运动做出贡献、公开发表意见、做更多广告。即使是现在，我也看不出为什么人工智能不应该有资格合并自己，从而继承所有这些权利。相反，任何已经存在的公司都可能在任何时候完全自动化（而且有些公司可能会）。在这样做的过程中，他们不应该失去他们目前所拥有的任何权利和义务。

然而，我怀疑人工智能将无法获得某些权利，就像现在公司无法获得它们一样：婚姻、征兵或服兵役、父母或子女或配偶应得的权利、遗产继承等。

这种精神分裂的人类认同感能否在某个时候得到解决？当然。已经出台了许多法律，并且通过了一些法律，将各种非人类物种提升到迄今为止只有人类才能享有的更高水平的公民权利：黑猩猩、鲸目动物、鹦鹉和其他动物已被确定为“功能更高”且寿命更长，因此，现在以食用动物、宠物和实验室动物所不具备的方式保护免受虐待。

一旦出现运行多年并表达接近人类水平和终生水平的智能和情感的人工智能“存在”，我预计会出现定义、建立和捍卫其公民权利的政治意愿。随着人类在控制论上的增强，尤其是在认知上，将我们与纯硅生物区分开来的界限将开始模糊。随着时间的推移，仅仅因为存在“太少的肉体”而忽视存在者的权利将变得不合情理。

Murray Shanahan 在他的《技术奇点》一书中提出，任何生物的权利都取决于其智力。

例如，我们看重狗的生命胜过蚂蚁的生命，同样地看重人的生命胜过其他动物的生命。

从这里人们可以争辩说，与人类具有同等智能的通用人工智能应该拥有与人类同等的权利，而卓越的人工智能应该拥有更多的权利。

当然，问题在于我们以人类为中心的社会是否愿意接受这一人权的根本转变以及将人类从其重要性的基础上移开的想法。

在法律框架方面，我们确实进入了未知领域，因为人工智能将不得不彻底改变我们定义许多我们今天认为理所当然的术语的方式，并质疑我们的许多通常假设。

人工智能将在超越人类智能之前推动我们思维方式的重要转变。

无论它（作为一家公司）获得什么权利，它仍然缺乏不被液化并将其所有财产转移回自然人的权利。

这当然是在不改变法律的情况下。

要改变法律，你需要让人们相信这台机器比智能动物更有价值，并希望人们能比处理海豚和黑猩猩更好地处理它们。

在我看来，机器可以很容易地获得与公司相同或更好的权利，但总是会受到不那么聪明的人的摆布。（也就是说，如果事情进展顺利:)）

今天出现的强大人工智能不仅不会拥有人类拥有的权利或任何权利（参见白宫和美国律师协会对弱人工智能实施监管的这些讨论），而且似乎第一个不太可能。

观察到：

1. 拥有权利意味着有限制，这意味着必须有一个控制系统。然而，人工智能中的控制问题仍未解决。

2. 即使假设问题是可以解决的，AGI 也必须看起来等同于自然人。根据奇点假设，它们还没有（参见图灵测试通过？），即使通过了等价测试，也不太可能保持这种状态。

3. 此外，如果一个或多个 AGI 与人类等效的时间足以渴望权利，那么（美国）立法者将不得不重新解释人格的定义并赋予他们权利，就像1886 年对公司所做的那样。