如何在数据科学中应用伦理学

数据挖掘 社会网络分析
2021-10-07 00:36:30

最近,facebook 对他们的用户进行试验,看看他们是否可以改变用户的情绪,现在okcupid 引起了轩然大波。

虽然我不是专业的数据科学家,但我Cathy O'Neill 的《做数据科学》一书中读到了有关数据科学伦理的内容,并且想知道这是专业人士在学术层面教授的东西(我希望如此)还是在专业领域被忽视或轻而易举地应用。特别是对于那些意外地从事数据科学的人。

虽然链接的文章涉及数据完整性,但该书还讨论了理解所创建数据模型的影响背后的道德伦理,以及这些模型在使用不当(有时是不经意间)或模型被不当使用时可能产生不利影响的影响。不准确,再次产生不良后果。

文章讨论了行为准则并提到了数据科学协会的行为准则,这是在使用的东西吗?规则 7 特别有趣(引自他们的网站):

(a) 与数据科学家就某一事项建立客户-数据科学家关系的可能性进行咨询的人是潜在客户。

(b) 即使没有建立客户与数据科学家的关系,从潜在客户那里了解信息的数据科学家也不得使用或透露该信息。

(c) 如果数据科学家从潜在客户处收到信息,则受 (b) 段约束的数据科学家不得为与潜在客户在同一或实质相关行业的利益存在重大不利利益的客户提供专业数据科学服务这可能对此事中的那个人造成重大伤害

这是专业实践的东西吗?许多用户盲目地接受我们获得一些免费服务(邮件、社交网络、图像托管、博客平台等)并同意 EULA 以便向我们推送广告。

最后,这是如何监管的,我经常读到当服务条款发生变化时用户会站起来,但似乎需要一些自由组织、集体诉讼或参议员才能在事情发生之前对这些事情做出反应。

顺便说一句,我不是在这里做出任何判断,也不是说所有数据科学家的行为都是如此,我对学术上的教学和专业实践感兴趣。

2个回答

我认为数据科学中的伦理很重要。使用用户数据来改善他们的体验并展示相关广告与使用用户数据来诱骗人们点击广告以获取金钱利润之间存在根本区别。就我个人而言,我喜欢那些给我相关信息的广告,比如我无论如何都会买的东西的交易。然而,因为我被甩了而向我展示减肥广告是令人毛骨悚然和不道德的。正如我的朋友彼得经常说的,“不要对数据感到毛骨悚然”。

数据科学似乎没有任何特殊的道德规范——利用别人的痛苦来赚钱是完全错误的。窃取他们的信息以赚钱也是如此。这不像是一名医生并决定是否将患者推向手术,而这正是他们想要的,但你知道他们的配偶和孩子只是想充分利用他们可以在一起的大部分时间。到目前为止,这些东西似乎很少被教授——但如果需要任何东西,那就是帮助识别人们何时受到不公平的剥削。