机器算法验证 - 来自线性回归模型的 Cohen d - 吾爱随笔录

来自线性回归模型的 Cohen d

机器算法验证方差分析规模效应安乔娃科恩斯-d

2022-03-20 22:38:17

问题：

我有一个带有分类/二进制（）和连续（）变量的多元回归模型： $c_i$ $x_i$

$v = \alpha + \beta_1 x_1 + \beta_2 x_2 + ... + \gamma_1 c_1 + \gamma_2 c_2 +$

我对分类二进制变量感兴趣。我想计算由控制其他变量定义的两组的 Cohen D。 $c_1$ $c_1$

到目前为止我知道什么：

有一些关于如何将 F 转换为 D 的公式（例如https://www.campbellcollaboration.org/media/k2/attachments/converting_between_effect_sizes.pdf第 13 页），但它们假设一个 ANCOVA 模型，这是一个线性模型连续和一个分类变量。相关的协变量（连续变量）的 r.square 。 $v$

公式为：

$d = \sqrt{\frac{(n1+n2)(1-r^2) F}{n1 n2}}$

这是在 compute.es R 包中也用于转换效果大小的公式，但是他们用来证明公式 Borenstein (2009) 的参考。连续数据的影响大小。在 H. Cooper, LV Hedges, & JC Valentine (Eds.), The handbook of research synthesis and meta analysis (pp. 279-293) 中也明确了 ANCOVA 模型（一个分类变量和一个连续变量。

我不确定该公式对多变量回归是否有效。

此外，我假设 r.square 将是没有感兴趣的分类变量（）的整个回归。 $c_1$

最后，是如何计算 F 的问题。我假设它是 II 型方差分析，但又不是 100% 确定。

CV 上至少有两个类似的问题：我可以根据多元回归系数 $d$ ，未回答，以及回归系数中的 Cohen's d？他的答案是指残差标准误差，我有理由确定这不是我的情况的正确答案。

因此我的问题：

1）该公式是否适用于多变量回归？

2) r.squared 是指没有感兴趣的分类变量的回归吗？

3) F 是使用 II 型方差分析计算的吗？

2个回答

在您的回归模型中，（0/1 指示变量的非标准化回归系数）是调整后的均值差，针对模型中的其他变量进行调整。因此，您可以作为分子，例如：其中是系数，而是：上面的下标是对于属于 $c_1$ $c_1$ $d$

d = \frac{B}{s_{p o o l e d}},

$d = \frac{B}{s_{pooled}} ~,$

B

$B$

c_{i}

$c_i$

s_{p o o l e d}

$s_{pooled}$

s_{p o o l e d} = \sqrt{\frac{s_{1}^{2} (n_{1} - 1) + s_{2}^{2} (n_{2} - 1)}{n_{1} + n_{2} - 2}}

$s_{pooled} = \sqrt{ \frac{ s_1^2 \left( n_1-1 \right) + s_2^2 \left( n_2-1 \right) } { n_1 + n_2 - 2 } } ~$

c_{i}

$c_i$ . 挑战在于，除非您拥有原始数据（您可能拥有原始数据，但进行元分析的人可能没有），否则通常不会为复杂的回归模型报告这些值。然而，只是的总体方差减去归因于处理效果的方差（例如）。的总体标准差指标变量创建的两个组的样本大小，$s_{pooled$} 可以按如下方式计算：

s_{p o o l e d}^{2}

$s_{pooled}^2$

y

$y$

c_{i}

$c_i$

y

$y$

c_{i}

$c_i$

s_{p o o l e d} = \sqrt{\frac{s_{y}^{2} (N - 1) - B^{2} (\frac{n_{1} n_{2}}{n_{1} + n_{2}})}{N - 2}} .

$s_{pooled} = \sqrt{ \frac{s_y^2(N-1) - B^2\left(\frac{n_1n_2}{n_1+n_2}\right) } {N-2}} ~.$

因此，如果您不进行统计论证，那么需要“坚持”什么？您是在问它在控制其他变量时可能不是，因为在其标准公式中，Cohen 的是由汇总方差的估计归一化的平均差。另一方面， /以及它们的部分版本，被明确设计为表达您正在寻找的效果大小。这是一篇引用率相当高的论文，关于适用于许多常见实验设计结构的泛化。然而，本文讨论了使用成对 t 分数计算 Cohen d $c_1$ $d$ $\eta^2$ $\omega^2$ $d$ 同时控制协变量。

其它你可能感兴趣的问题

上一篇生物数据集中NA和None的区别下一篇R2R2的回归预测噪声