是否在任何国家/地区开展了政府层面的法律工作来确定通用人工智能的“权利”?

人工智能 伦理 合法的 自我意识 数字版权
2021-10-19 13:55:52

最近我一直在思考一个假设性问题——如果一个具有自我意识的通用 AI选择采用微软 Halo 中 Cortana 的外观、声音和名称会怎样?还是苹果的 Siri?微软/苹​​果会如何行使他们的版权,尤其是如果人工智能在他们自己的实验室之外被“唤醒”?

这让我意识到,我认为我从来没有听说过任何关于具有自我意识的人工智能将拥有什么样的权利的政府层面的严肃讨论。是否允许拥有财产?自由旅行?有护照吗?它仅仅是建造它的公司的财产吗?

Singularity hub 曾经有一篇关于此的文章,但现在是404 了。

我能找到的唯一实际的主权国家法律行动是沙特阿拉伯授予“机器人”公民身份,这似乎比什么都更具宣传噱头。

英国生物伦理委员会有一篇关于该主题的优秀论文(pdf),但这并不一定构成“法律工作”。

那么,是否在政府层面进行了任何实际的法律/立法讨论或准备工作,以应对突发的、自我意识的、人工通用(或更大)智能的可能性示例包括立法部门就任何国家的“人工智能权利”(而不是说是否可以在军队中使用人工智能)、实际法律、行政/司法行动等问题向行业专家咨询。

(注意,这不是“人工智能应该拥有权利” 而是“什么工作:权利已经完成,如果有的话”)

编辑:我已经向我所有的美国代表(4 个州级,6 个联邦级)提交了类似的问题,但尚未收到答案。如果我有什么好的,我会添加到这个帖子中。

1个回答

当然,在官僚主义的世界里,政府部门和委员会并不是其成员通常认为的课程制定者。

我们可以从快速浏览一些开放的、全球性的和以政府为导向的新项目和证据以及正在发挥作用的开放或隐藏议程开始。(我们可以猜测正在进行的游说和国防合同,但我们会在黑暗中挣扎。)

人工权利可能通过五种主要方式进入政府领域。

  • 安全相关政策——人工智能的颠覆性和防御性使用在地缘政治领域已经司空见惯,因此在国家元首之间的会议上,使用人工智能的权利绝对是摆在桌面上的。然而,媒体大多联合政府公关发布或植物中的内容。如果真正的新闻机构试图揭开错误信息或故意制造混乱新闻的面纱,他们的工作必然会受到污染。这与其说是阴谋不如说是必要。一个人不能在不期望它被利用的情况下泄露秘密。尽管如此,政策最终还是会从这样的讨论中产生。有多少政策从未公开过,这是任何人的猜测。一个人必须成为国家元首才能找到答案。
  • 立法结果——国家或地区政策可能被编入法律,但缺乏实体化可能是使用立法带宽来追求大多数人认为是其他物种或异端的权利的障碍。
  • 判例法——在人工智能足够类人化以至于机器人可以在法庭上作为原告被认真对待之前,这一类别将无法实现。这在某些方面与胎儿在公民权利的基础上向法院提出禁止堕胎的禁令提起诉讼在某些方面相似,但在其他方面则完全不同。考虑一下在这两个案件中获得律师和提交令人信服的投诉的难度,您可能会看到一些相似之处。
  • 行政法令——皇帝、女王、国王、王子、公主、哈里发、总统、阿亚图拉、教皇、独裁者、法老、大祭司的决定可以将人工权利的概念带入政府领域。
  • 战争——人为的东西发展了人类的主要特征,那就是想要扼杀所有竞争而不是聪明地思考。在这种时候,恶意情报很可能要么沿着科幻小说中最代表的路径——打败(消灭)人类,要么沿着 Jaques Ellul 宣称的当前路径,悄悄地成为人类努力的主导力量. (Ellul 在他的技术协会中建议,两个世纪前,技术服务于人类和人类服务于技术之间的平衡倾向于技术的主导地位。)

普京表示,在人工智能领域处于领先地位的国家“将成为世界的统治者”,埃隆马斯克在媒体上签署了协议。两者都在疯狂地猜测,并且在思考预测之前都没有退后一步。我不相信任何一个人都那么无知,但目标并不是真正的预测。是媒体播放。

  • 在某些事件中,智人并没有控制大熊、老虎、其他巨型动物、尼安德特人和其他类人猿,比如关于神秘和未经证实的奇点。这是渐进的。
  • 沃尔玛是世界上最大的经济体之一。只有少数国家拥有更多资产。因此,可能是他们、谷歌,或者是拥有一堆装有 GPU 并运行 LINUX 的主板的才华横溢的少女,这成为了世界上占主导地位的 AI 力量。
  • 获得新的卓越智能的明智之举是不要公开接管,产生恐惧防御作为回应。明智的做法是不提供威胁,将自己隐藏在一层混乱且巧妙布置的诡计之下,并通过微小的扰动来控制自己。人类会成为伟大的奴隶。当我们忙于购买东西并试图保持健康和受欢迎而无法关注时,我们很容易被愚弄。
  • 智人是现在地球上的主要物种的假设是值得怀疑的。今天有五件事支配着人类事务:细菌、程序化寿命、对生物圈的依赖、成瘾和太阳。
  • 即使一个人对上帝有信心,人类也有一些神圣的权利成为主导物种,这也是值得怀疑的。(彩虹的诺亚符号不仅适用于洪水吗?没有明确表示。)蚂蚁更具协作性,蜜蜂聚集和建造比人类更可持续,细菌从太阳系开始时就已经存在,并且可能比我们生存得更久一万亿年。生命遗传模型的最新问题是,在陆地物种的整个历史中,细菌可能一直在与高等物种合作共享 DNA。