当 AI 奇点接管时,我们还能做什么?

人工智能 哲学 敏捷 社会的 奇点
2021-11-15 22:44:21

自第一次工业革命以来,机器一直在取代人类的工作,自动化已经成为过去 3 个世纪人类社会进化的一部分,但总的来说,这些机器已经取代了机械、高风险和低技能的工作,例如汽车厂的生产线。

但最近随着计算机的出现和人工智能的改进,以及寻找奇点(即能够比人类思考得更快、更好、更有创造力和更便宜的计算机,能够自我改进)的探索,我们的未来不仅会导致低技能工人的替代,还会导致高技能工人的替代。我说的未来不久,人工智能和机器将取代艺术家、设计师、工程师、律师、首席执行官、电影制作人、政治家,甚至是程序员。有些人对此感到兴奋,但老实说,我有点害怕。

我不是在这里谈论金钱问题,虽然我不是这个想法的粉丝,让我们假设全民收入已经实施,并假设它运作良好。也不是在谈论“机器将对人类发动战争的终结者世界”,我们也假设它们永远是完全友好的。

这里的问题是我们人类的动机之一。当 AI 奇点接管时,我们还能做什么?每天,整天?

我们的生活要做什么?假设我喜欢画画,如果电脑能做出更好的艺术,我怎么能实现成为画家的梦想?我怎么能知道没有人会关心我的画,因为它们是由一个普通人创作的?或者是真实的我,例如(我,Danzmann),我喜欢编码,在 9 岁时学会了我的第一门编程语言并从那时起一直在使用它,这对我来说看起来很伤心,几年后我可能再也不会接触到它了. 这适用于所有职业,每个人都对某事充满热情,并且由于奇点,他们中的每一个都将不得不停止存在。

那么,未来我们要做什么呢?我要做什么?整天打高尔夫球,我余生的每一天(夸张的修辞格,但你明白我的意思)?

另外,我孩子的动力是什么?我要告诉他们去学校做什么?当有人问“你长大了想做什么?”时,必然的答案是什么都没有

如果高度先进的人工智能控制了所有的科学研究,那么我们学习的理由是什么?如果这些知识毫无用处,因为没有更多的工作并且科学研究完全由人工智能完成,我们人类需要花费数十年的生命来学习的原因是什么?

4个回答

鉴于你对人工智能的所有假设都被证明是正确的,我们将拥有某种乌托邦,没有人必须工作,而且有很多东西。很公平。你的其他假设是关于人性的,这就是我要挑战你的结论的地方:仅仅因为在某些任务上有比人类更好的计算机,这并不会自动剥夺所有的乐趣。

我有三个论据支持我的立场。

  • 在跳棋、国际象棋、西洋双陆棋、星际争霸、主谋、围棋等方面,已经有比人类更好的计算机了。然而,这些游戏仍然可以玩,即使没有人希望能像计算机一样出色。
  • 有些领域的质量评估是如此模糊或个人化,以至于“更好”的概念在任何客观意义上都是无用的。我主要考虑艺术。在第一个论点中,照相机已经是比人类希望成为的更好的现实“画家”,但人们仍然在画画。他们的画受到赞赏,即使是照片般逼真的那种。
  • 我会说“如果某人在 x 上比我好,那不值得做 x”的整个心态很快就会过时。社会并不总是像我觉得的那样旋转,这主要是由于北美生活方式的影响,总是努力成为第一,而低于这一点的一切都是垃圾。全球化已经将这种思维方式置于危险之中,许多年轻人幻想破灭,甚至沮丧,因为,轻率地说,“无论你做什么,总有一个亚洲孩子做得好 10 倍”。我们不必等待人工智能超越我们,世界其他地方已经这样做了。因此,我们需要调整处理这一事实的方式,停止将其视为对我们价值的削弱,并继续前进。

作为结束语,我也认为这对普通大众来说是一个问题,在很短的时间内,我们基本上必须改变我们世界观的很大一部分,人工智能比我们更好,我们不再需要工作等等。所有过去的经济革命、新石器时代、工业革命,以及最近的数字革命,都有一个较长的过渡期,人们可以在此适应新世界。即使有了这种转变,对很多人来说也已经够难了。然而,大多数人都处理了它,后人很难想象一个新变化还不存在的世界,我个人不明白为什么下一次革命应该有什么不同。

我们是生物。我们将继续喜欢任何激活阿片受体的东西,我们将继续想要任何激活伏隔核中多巴胺受体的东西。食物、饮料、性、社会支配地位、利他行为、新奇事物、滥用药物、身体控制、生育、社交、阳光明媚的天气、疲倦时睡觉等,只要我们有大脑,就会继续获得回报和激励。一些神经生物学评论论文的链接:

有关此主题的更多详细信息,另请参阅本文大脑中的快乐系统动机控制中的多巴胺:奖励、厌恶和警报

我个人喜欢打篮球,即使我没有机会对抗 NBA 球员,而攀岩,即使使用梯子会更有效率。我也没有得到报酬。

另外,我孩子的动力是什么?我要告诉他们去学校做什么?当有人问“你长大后想做什么?”时,必然的答案是什么都没有。

我不同意。学校会发展。孩子们仍然需要学习社交技能并结交朋友。至少,他们需要学习如何使用或与能做所有事情的计算机进行交互。他们仍然需要通过阅读人文学科来学习成为更好的人。我不认为他们会被告知“计算机现在将代表您阅读陀思妥耶夫斯基,阅读效果要好得多,您知道”。可能有工作描述中包含“由人”的工作,例如手工艺品,心理治疗等。他们可以成长为任何他们想要的东西,人不是仅仅由他们的职业来定义的。我相信你不仅仅是一个编码员,仅此而已

从 Arne 的摄影观点开始:

我想指出摄影是如何改变绘画的。您会注意到,当摄影开始时,试图逼真的古典绘画不再具有相关性,并且开始了一些现代运动,如更抽象的绘画、超现实主义或立体主义。

人们可以将艺术视为一种吹嘘“我比你优秀”的媒介。在摄影出现之前,他们可能会说“我比你在完善现实主义技术方面做得更好”。现在,在这方面,艺术家们吹嘘什么?有时声称他们在雕刻性玩具时有多进步?声称他们的白色球体“对你来说太深了”?

不过,我不是艺术史学家,这就是我觉得它如何演变为当前的现代“艺术”,其中技巧已被挑衅所取代。

摄影可能是一个很好的起点,可以考虑人们如何对使他们相形见绌的技术做出反应,并且他们仍然想成为#1。

——这里有一点要注意:人们希望有一个好的身份

保罗·拉法格曾写过《懒惰的权利》,他认为如果人们少工作,因为机器可以为我们工作,人类将如何在智力上进化。他的一个论点是,人们将希腊哲学家视为知识模型,他们没有工作,并且有更多的时间思考。我认为他忽略了一点:不是每个人都能享受哲学时间的花费。当我们期望互联网向知识的伟大时代敞开心扉时,我们是多么大错特错。请记住,人们并非空想智能,您有愚蠢的人,而人类基本上遵循他们的本能需求。这就是为什么在我们开始使用互联网 20 年后,我们有 lolcats、巨魔、封闭社区和更多的智力不容忍(想想 sjw,alt right 运动)。

——第2点:不是每个人都能被纳入“人人都会光明”的乌托邦

关键是一个人的身份。我认为每个人都想要并且需要有一个“积极的身份”,他们寻找一个来弥补自己的弱点。对我来说,这就是为什么贫穷的人倾向于炫耀,而成功的人不倾向于吹嘘的原因。那么,当你自己没有太多东西时,你如何打造你的积极身份呢?

我看到我周围发生的一些事情: - 做一个叛逆者:为了让自己与众不同,你成为了对手;但实际上你只是反映了主流趋势,同时吹嘘你有多独立。我反对,所以我自由了。你可以有一个范围从 IA 自由立场(比如不想使用互联网的人,一些使用自由软件的人)到更激进的运动。- 保守,虔诚:也许是为了应对一个变化并变得对某些人来说过于进步的社会,我看到人们变得保守,这仍然是一种反叛的趋势,我看到保守派投票(民族主义)或宗教(佛教,基督教,伊斯兰教)作为一种反应。我遵循传统,所以我独立于你的新奇事物。当社会发生变化时,宗教始终是一个坚实的价值观。- 过度进步:如果您认为社会过于保守,则与前一点的反应相同。当你面前有保守的人时,这是一种叛逆的立场。我比大家领先一步,看看我有多前卫。

——第3点:如果你在某个领域不擅长,那就做一个叛逆者。或者:如果你跟不上,就退到一边,不要跟上潮流。

所以你没有工作可做,大量的食物由 IA 控制的无人机种植,所有的物质需求都得到满足,也没有兴趣想太多。人们有太多时间时会做什么?很简单:他们满足了与物质需求和食物无关的自然冲动。一些例子:吃饭、玩游戏、做爱、网上争论、浪费。基本上所有被标记为罪恶的东西。您还会在那些觉得自己一文不值的人身上看到各种形式的精神障碍。还有更多人会觉得一文不值。

这也意味着你需要更多的工作来让这些人开心,或者照顾那些受苦的人。

——第四点:如果生活太容易,人就会变成罪人

通过这几个例子,这里提出了一个问题:如果“平庸”的人倾向于通过反对主流社会来获得闪亮的身份,那么人工智能兴起后的主流社会会是什么样子?

所以我看到人们的三种反应: - 在 AI 兴起后保持相关性,可以追随的人 - 成为叛逆者,无法追随但仍想显得相关的人 - 保持中立,满足人类冲动的人

一般来说,人们会混合使用这三者。

人类在基本上可以为任何事情提供答案的人工智能的帮助下,将提供新的问题、新的项目、新的探索领域。许多人仍然会有点相关。人工智能将成为主流,所以每个人都会或多或少地反对它,同时享受它的好处(想想那些声称技术/金钱独立但拥有 iPhone 的人)。人们仍然会在网上争论并嘲笑可爱的猫做奇怪的事情。也许更多,因为他们有更多的空闲时间。

总之,如果人工智能变得相关,那么期待一个更多人拥有太多时间的世界我觉得这个结论有点欺骗性,毕竟我思考过并写过。:O

我不会发布具体答案,而是向您指出Hannu Rajaniemi在Quantum Thief 三部曲中对这个主题的沉思原因如下:

  1. 艺术家可以有深刻的见解。菲利普·迪克(Philip Dick)在该领域正式化之前大约 5 年Do Androids Dream of Electric Sheep中撰写了关于进化博弈论的文章,可以证明这一点。(对我来说,这仍然是关于人工智能的最重要的书。)

  2. 许多作者都写过关于奇点后场景的文章,但我知道 Rajaneimi 是唯一一位受过剑桥培训的数学家,拥有数学物理学博士学位,我倾向于相信这使他有能力应对奇点的固有复杂性。主题。