马来西亚客机失事是由非良性人工智能系统引起的吗?

人工智能 神经网络 敏捷 社会的
2021-11-16 05:28:56

我观看了 Elon Musk 的 youtube 剪辑,他谈到了他对 AI 未来的看法。他举了两个例子。其中一个例子是良性场景,另一个例子是非良性场景,他推测未来人工智能威胁的可能性以及深度智能可能造成的危害。

根据 Elon 的说法,网络中的深度情报可以创建假新闻和欺骗电子邮件帐户。“文笔比刀剑更有力”。埃隆提出的这种非良性情景是一种假设,但他详细说明了人工智能如何以最大化股票投资组合为目标,做多防御而做空消费者,并发动战争。

更具体地说,这可以通过入侵马来西亚航空公司的飞机路由服务器来实现,当飞机在战区上空时,发送匿名提示说有一架敌机飞过头顶,这反过来会导致地对空导弹取下实际上是一架“商业”客机。

虽然这是一个似是而非的假设人工智能的非良性情景,但我想知道这是否真的可能是关于马来西亚客机坠毁的情况。例如,Stuxnet是一种恶意计算机蠕虫,于 2010 年首次被发现。被认为至少从 2005 年就开始开发,并被认为是对伊朗核计划造成重大损害的原因。Stuxnet 甚至不是人工智能。

Stuxnet 一经发现就震惊了全世界。至少可以说,蠕虫的绝对复杂性和构建所需的时间令人印象深刻。

综上所述,马航客机失事是由非良性人工智能系统造成的吗?

1个回答

简短的回答:尽管人工智能通过机器学习(和子领域)取得了令人难以置信的进步,但人工智能离这种自主决策还很遥远。

我不能证明是否定的,但是,马斯克所说的自治水平仍然在地平线上。

这并不意味着马斯克的假设是错误的。imo 我很高兴他一直把这些问题放在首位。

工程师和数学家在这个问题上比外行更有可信度。如果这看起来危言耸听,那么科学界有很多人认为这是有道理的。

马斯克所描述的内容是阿西莫夫在 1942 年通过他的“机器人三定律”警告我们的内容的延伸,当时计算机很糟糕。关于这个想法的解释:机器学习,见下文。


只是为了好玩(有点:)

作者和数学物理学家 Hannu Rajaniemi 刚刚在 MIT Tech Review 上发表了一篇关于这个主题的故事。

Unchained:一个关于爱、失落和区块链的故事

警告:这个故事非常有趣,令人惊讶,而且很可能有先见之明!