我怀疑格尔曼和希尔要么夸大了正常性是否是一个问题的情况，要么他们的评论断章取义。虽然线性（或更准确地说，正确的功能规范）通常更重要，但有些非正态性的情况确实应该引起人们的极大关注。这些包括：

1. 极重尾分布。在这种情况下，您绝对不应该使用普通的最小二乘法来估计趋势，即使它是线性的。分位数回归是一个不错的选择。

2. 二元或高度离散的因变量。在这种情况下，即使响应函数碰巧是线性的（在这种情况下不太可能），也会首选一些最大似然方法。

至于需要专门用于预测的正态性和同方差性（假设 OLS），假设您正在回归单个股票回报百分比（$Y$) 在标准普尔 500 指数回报 ($X$）。您想预测当市场下跌 1% 时您的回报会发生什么（即，当$X=-1$）。在这种情况下，您知道您的$Y$是一个随机变量，有一定的分布。

现在，不假思索地应用 OLS 会给你（基本上）以下预测：$Y$将位于$\pm 3\times rmse$回归预测的概率约为 99.7%。

关于 OLS 的同方差性假设的问题是$rmse$，是对所有值的汇总估计$X$, 可能会高估或低估$Y$什么时候$X=1$，取决于异方差的性质。这会导致预测区间可能太宽或太窄。

OLS 的正态性假设的问题在于，如果收益分布是重尾分布（很可能是这样），则偶尔会有比条件均值的三个标准差远得多的收益。因此，就边界风险而言，通常的预测过于乐观。此外，如果收益的分布是不对称的，那么预测区间也应该是相应的不对称的。

另一个很好的例子是多项逻辑回归。说$Y$是牙膏品牌的选择，和$X$是年龄。什么是预测$Y$什么时候$X=50$岁？它肯定不是 Crest、Colgate、Mr. Toms 等的平均值。预测是分布本身，它肯定不是正态分布。相反，它是所有品牌的简单离散概率分布。

回归最好理解为条件分布的模型$Y$, 给定$X$. 这种表示解决了 OLS 和 ML 之间的许多假设冲突；它无缝地导致可能性和贝叶斯；它将普通回归、异方差回归、ANOVA、泊松回归、多项逻辑回归、生存分析、分位数回归、神经网络回归、树回归等统统归为一类；它包括人们通常感兴趣的模型的平均部分作为特例。