我正在研究可解释的人工智能领域。这个想法是为机器学习算法的决策/输出提供理由。
我在网上找到了一些资源，例如： DARPA 的https://www.darpa.mil/program/explainable-artificial-intelligence和这篇论文https://arxiv.org/abs/1710.00794。
- 谁能推荐一些成功应用可解释人工智能的好例子？
- 该领域的主要人物？主要研究实验室？
- 一本书 ？
可解释的 AI 资源
机器算法验证
机器学习
2022-03-22 14:23:00
3个回答
我会推荐 Christoph Molnar 的一本好书：Interpretable Machine Learning - A Guide for Making Black Box Models Explainable。
它涉及可解释模型，例如线性/逻辑回归、广义线性模型 (GLM)、生成加法模型 (GAM)、决策树和模型无关方法，例如LIME、SHAP。
Awesome Interpretable Machine Learning链接到该领域的许多有趣的出版物。
我最近开始探索这个主题时发现的更长的论文是：
- 人工智能解释：来自社会科学的见解蒂姆米勒有很多参考资料
- Zachary Lipton的模型可解释性神话
有关具体应用的更多应用视角和描述，您可以从最近向普通观众介绍该主题的这篇科学文章开始。
可以在同一会议上举行的IJCAI/ECAI 2018 可解释人工智能研讨会和机器学习中的人类可解释性研讨会的网站上找到一份很好的参考资料列表。
如果您在此期间在其他地方找到更多信息，我将非常有兴趣了解它。
每天都有很多内容出现。银行、制药、欺诈检测已经在许多方面使用可解释的 AI。
您可以从这些框架的 github 页面获取示例/主要人员（来自 IBM、Google、Microsoft、FB）/研究论文。
我们进行了非常详尽的文献研究来构建我们自己的 XAI 框架-
其它你可能感兴趣的问题