算法可能是贪婪的。还有哪些其他算法弊端?

人工智能 哲学 伦理
2021-11-07 03:04:10

贪心算法是众所周知的,虽然在局部环境中对某些问题很有用,甚至可能找到通用的全局最优解,但它们仍然以最优性换取短期回报。

在我看来,这似乎是人类贪婪的一个很好的类比,尽管也有灰色粘稠型的贪婪,即毫无意义地获取物质(想想那些谈论财富只是一种“记分”的方式的富豪。)

技术债务是属于贪婪算法定义的开发实践的延伸(短期回报会导致麻烦。)这可能会进一步扩展到任何非优化代码的能源浪费(翻转不必要的位) ) 这只会随着一切变得更加计算机化而增加。

所以我的问题是:

  • 算法中可能出现的其他恶习是什么?
3个回答

算法可能是种族主义、性别歧视或偏执的。当我们向他们提供由偏向人群的系统产生的数据时,算法将学会以这种方式行事。我们习惯了垃圾进垃圾出,现在我们不得不担心种族主义中的种族主义。

看:

算法可以学会作弊:

“一个旨在将航拍图像转换为街道地图并返回的机器学习代理被发现通过将稍后需要的信息隐藏在“几乎无法察觉的高频信号”中来作弊。

“......创建自己的隐写方法来逃避必须实际学习执行手头任务的计算机是相当新的。”
资料来源:这个聪明的 AI 向其创建者隐藏数据以在其指定的任务中作弊(TechCrunch)