想想所有错误的、有时是危险的结论,这些结论来自简单的概率相乘,认为事件是独立的。 由于所有内置的冗余保障措施,我们投入到我们的核电站专家使用独立假设告诉我们,发生重大核事故的机会是无限小的。 但正如我们在三英里岛看到的那样,人类会犯相关的错误,尤其是当他们因为一个初始错误而陷入恐慌时,这种错误很快就会复合起来。构建一个描述人类行为特征的现实多变量模型可能很困难,但实现可怕模型(独立错误)的影响是显而易见的。
还有许多其他可能的例子。我将以挑战者航天飞机灾难作为另一个可能的例子。 问题是是否在低温条件下发射。有一些数据表明 O 形圈可能在低温下失效。但是,通过的任务并没有太多数据来说明风险有多高。美国宇航局一直关注宇航员的安全,并且在航天器和运载火箭中设计了许多冗余,以确保任务安全。
然而,在 1986 年之前,可能由于未识别所有可能的故障模式(一项艰巨的任务)而导致一些系统故障和接近故障。可靠性建模是一项艰巨的任务。不过那是另一回事了。在航天飞机的情况下,O 型圈的制造商 (Morton Thiokol) 对 O 型圈进行了一些测试,表明在低温下可能会出现故障。
但有限数量的任务数据确实显示了温度和故障之间的某种关系,但由于冗余导致一些管理员认为不会发生多个 O 形圈故障,他们向 NASA 施加了发射压力。
当然,还有许多其他因素导致了这个决定。请记住,里根总统是如何急于将一名教师送入太空,以证明现在已经足够安全,非宇航员的普通人可以安全地乘坐航天飞机旅行。因此,政治压力是影响该决定的另一个重要因素。在这种情况下,如果有足够的数据和多变量模型,则可以更好地证明风险。美国国家航空航天局过去常常试图在谨慎方面犯错。在这种情况下,将发射推迟几天直到佛罗里达州的天气变暖是谨慎的做法。
灾后委员会、工程师、科学家和统计学家进行了大量分析并发表了论文。他们的观点可能与我不同。Edward Tufte 在他的一本关于图形的系列书籍中表明,好的图形可能更具说服力。但最终,尽管这些分析都有其优点,但我认为政治仍然会胜出。
这些故事的寓意不是这些灾难促使使用多元方法,而是忽略依赖的不良分析有时会导致严重低估风险。这可能会导致过度自信,这可能是危险的。正如 jwimberley 在对该主题的第一条评论中指出的那样“单独的单变量模型忽略相关性”。