哪些政府机构负责监督新人工智能的开发?

人工智能 控制问题 奇点 人工智能安全
2021-11-16 12:49:10

尼克博斯特罗姆在他的《超级智能》一书中谈到了人工智能的许多危险。他认为有必要建立强大的安全机制,以确保机器一旦获得远远超出人类能力的通用智能,就不会破坏人类(很可能是偶然的)。他将此描述为一个非常微妙的过程,很可能会出错。

考虑到新技术经常忽视必要的预防措施,而且这与国家安全高度相关,我想知道是否已经有政府机构在监督像 Deepmind 这样的大型科技公司。我们目前距离智能爆炸或技术奇点还很远,但我认为政府一旦意识到并了解危险,就希望踏入大门。

所以我的问题是,目前有哪些政府机构正在调查甚至可能控制人工智能的发展?如果国家之间存在很大差异,答案可以是普遍的,也可以针对特定国家。

2个回答

可能不是您正在寻找的东西,但我希望仍然有帮助。一年前,白宫委托编写了一份关于人工智能的报告,简要涉及政策问题。

尽管我(部分)同意 Nick Bostroms 的观点,即人工智能在某些方面可能是危险的。我们不需要新的政府机构来控制或规范人工智能的发展。

我们已经有足够的网络法律来保护我们免受计算机犯罪,例如网络恐怖主义、网络欺凌、制造恶意软件、身份盗用、DOSS、未经授权的访问等。当地执法机构和联邦调查局有责任预防和调查网络犯罪,例如上面列出的那些。人工智能是否被用于犯罪在法律上并不重要。

尽管人工智能是一种“新”技术。在我们的治理结构中,我们已经拥有一个严格的刑事司法系统,能够很好地处理人工智能或任何其他技术突破可能引起的任何可能性,而不会不知所措。

例如,如果人工智能导致车祸,汽车制造商只需承担产品疏忽责任即可。如果人工智能有缺陷或危险。我们已经制定了产品责任和消费者保护法以及相关的政府机构来实施它们。

如果人工智能利用其智能在法律范围内为自己谋取利益。根据定义,这不是犯罪,大公司一直这样做是为了尽量减少税收。但是,如有必要,立法机关可以坐下来通过一项法律,将这种新活动定为犯罪/禁止。

一个主权政府已经拥有足够的权力和必要的工具来行使这种权力。建立一个新的政府机构将导致不必要的职责重复。

最好的方法是让相关政府机构通过发挥积极作用和现代化他们的服务交付来适应当前的社会发展。这是每个人都必须做的。实际上,我们不需要额外的机构。我会发现联邦人工智能机构或联邦区块链委员会等机构令人费解且效率低下。