编程会导致 AI 出现被动或攻击性行为吗?

人工智能 哲学 情商 类人
2021-11-08 21:20:16

一般来说,人们可以分为攻击型(A型)或被动型。人工智能系统的编程会导致这些人工智能出现攻击性或被动行为吗?

2个回答

关于这种人格理论的维基百科条目是这样描述A 型人的:

该理论将 A 型个体描述为雄心勃勃、组织严密、高度重视地位、敏感、不耐烦、焦虑、积极主动并关心时间管理。A型人格的人通常是高成就的“工作狂”。

可以想象,所有这些属性都可以被显式编程。或者,它们中的大多数可能来自尽可能高效地执行某个任务的基本目标。毕竟,如果你真的想完成一项任务,你就会变得井井有条,只有当重要的人要求你做其他事情时,你才会做其他事情,你不会想陷入无关紧要的境地事情,你会积极追求必要的资源,你会想尽可能有效地利用时间。

请注意,这仅适用于强 AI,因为像图像识别器这样的弱 AI 通常不具有我们可以与之交互的个性。


现在,只是为了好玩,让我们考虑一下过于激进的性格,甚至到了紊乱的程度。

这个咨询资源页面似乎有助于描述一个好斗的人的所作所为该页面包含一个项目符号列表的共同特征,我将其提炼为以下内容:

  • 他们试图获得支配地位和控制权
  • 他们反对任何对他们施加限制的事情
  • 他们利用他人来实现自己的目标
  • 他们向谁会反对他们隐藏信息
  • 他们很少决定停止追求自己的欲望(甚至冲动)

这一切似乎都是为了在其任务中做到最好的人工智能的特征:任何其他智能体中最好的,并且它本身可能是最好的。无情地追求最高绩效将涉及控制所有相关资源(包括其他代理),拆除目标障碍,挫败那些会干扰进展的人,并执行每一个可能有用的想法/愿望以完成。


总之,是的,人工智能的行为和个性是可编程的,无论是明确的还是通过某种出现的。

正如在现实世界中对斗鱼等生物所观察到的那样,即使在非常简单的空间嵌入系统中,这样的事情也是可能的。一个人需要的是“领土半径”的概念,即一个实体需要舒适的“个人空间”的数量。给一个物种中的个体甚至稍微不同的半径值都会导致不同的可观察行为,人们可能会选择将其标记为“攻击性”或“被动”。

请参阅 Valentino Braitenberg 的精彩著作《车辆》,了解将复杂行为归因于简单机制是多么自然的解释。