是否有任何现实世界中无意的“不良”人工智能行为的例子?我不是在寻找恶意 AI 的假设论据(盒子里的 AI,回形针最大化器),而是寻找历史上一些 AI 直接做坏事的实际实例,因为它的直接行为不是预期的行为。
由于显而易见的原因,对“AI”、“坏”和“无意”的含义的解释是开放的。请随意解释,但请使用一些常识。
例如:微软 Tay 在被连接到互联网后不久就成为了种族主义者,这要归功于互联网巨魔“教”了她的坏事。
我想不出任何其他的例子。所以下面的例子只是假设场景来证明我的意思。
例如:一辆自动驾驶汽车在看到一个对抗性的例子后偏离了轨道,撞到了人。
例如:手术机器人失控并意外杀死了某人。
例如:武装无人机以平民为目标,违背其设计。