如何清晰透明地证明数据驱动的医疗保健技术的成果已得到验证?

人工智能 社会的 伦理 卫生保健
2021-10-31 01:47:11

国家卫生服务局 (NHS)在数据驱动的医疗保健技术行为准则文件(2019 年 7 月 18 日更新)中写下了几项原则。我关心原则 7。

展示正在开发或部署的算法类型、对数据使用方式的伦理审查、如何验证其性能以及如何将其整合到医疗保健提供中

展示正在构建的算法的学习方法。旨在以清晰透明的方式展示如何验证结果。

但是,结果如何以清晰透明的方式准确地显示结果是如何验证的呢?

1个回答

数据驱动的医疗保健技术行为准则文件的当前版本提供了有关所有原则的更多详细信息,包括我将在此处引用的第 7 条原则。

考虑人工智能的引入将如何改变健康和护理提供中的关系,以及这些变化对责任和义务的影响。使用当前的最佳实践来向那些根据输出采取行动的人解释算法。

在构建算法时,无论是独立产品还是集成到系统中,都要清楚地展示它并对算法使用的学习方法(如果有的话)保持透明。对特定于该用例的数据使用进行伦理审查。实现具有更高潜在伤害或意外决策的算法的透明度,可以确保满足 2018 年《数据保护法》中规定的数据主体的权利,从而建立对用户的信任并更好地采用和采用。

与合作伙伴合作,指定算法的上下文,指定潜在的替代上下文,并对模型是基于主动学习、监督学习还是无监督学习保持透明。以清晰透明的规范显示:

  • 算法的功能
  • 算法的优势和局限性(据他们所知)
  • 它的学习方法
  • 是否已准备好部署或仍在培训中
  • 如何在使用算法的上下文中就可接受的算法使用做出决定(例如,是否有委员会、证据或等同物促成了这一决定?)
  • 潜在的资源影响

这种规范和开发的透明度将建立信任,将机器主导的决策纳入临床护理。