如本文前几段所述，一个可能的原因可能与模型的可审查性有关。它介绍了一家医院的案例研究，该医院的政策是将哮喘患者送往重症监护室；重症监护意味着他们患肺炎的可能性较小，因此数据显示哮喘患者患肺炎的可能性较小。

本质上，由于机器学习模型会在数据存在任何缺陷时学习错误的关系，因此能够“调试”它们是有益的。决策树做出决策的过程以及做出决策的原因，比在其他模型（尤其是神经网络）中更容易看到，这使得文章中给出的示例等错误更容易被发现和纠正。

要么你错过了它，要么我不完全理解为什么你在问这个问题时感到困惑，但是同一个主教争论（在他说你想知道的同一句话中）为什么基于树的模型在这样的领域很受欢迎作为医学诊断。

例如，使其在医学诊断等领域流行的基于树的模型的一个关键特性是，它们很容易被人类解释，因为它们对应于应用于单个输入变量的一系列二元决策。例如，为了预测患者的疾病，我们可能首先问“他们的体温是否高于某个阈值？”。如果答案是肯定的，那么我们接下来可能会问“他们的血压是否低于某个阈值？”。然后，树的每一片叶子都与一个特定的诊断相关联。

如今，随着不易解释的神经网络（例如在围棋、雅达利、图像分类和分割，甚至机器翻译中）的成功（因此被称为黑盒模型），总是有更多的研究/研究可解释模型或解释黑盒模型的技术，例如神经网络。您可以查看此答案以获取已开发的可解释/可解释的 AI方法列表。这篇文章包含许多答案，进一步激发了对可解释 AI的需求。

我自己也在研究类似的医学诊断产品。原因是我们作为 ML 工程师，通常会尝试复制，人类如何将任何问题处理成数学模型并在其之上构建库以在应用程序中使用它。

那么，医生如何根据症状做出任何具体的诊断决定。主要症状有两种形式，真假，你有没有。

现在我们只需要复制医生的方法来做出决定，但是要从原始数据中以文本、声音图像的形式提取这些症状，我们需要使用其他分类器和聚类模型。