机器算法验证 - 非线性内生性 - 吾爱随笔录

非线性内生性

机器算法验证回归独立

2022-04-07 01:02:45

考虑以下线性回归模型。其中 x 是一个标量，然而，众所周知，是一个线性关联的度量，因为两个变量可以彼此非线性相关，但协方差仍然为 0。我的问题是是否处理了可能的非线性内生性问题？如果误差项和我们包含的回归量之间的关系不是线性的，但仍然存在怎么办？

y_{i t} = x_{i t} β + υ_{i t}

$y_{it}=x_{it}\beta+\upsilon_{it}$

c o v (x_{i t}, υ_{i t}) = 0

$cov(x_{it},\upsilon_{it})=0$

c o v (.)

$cov(.)$

1个回答

我同意这里的区别并不容易。我将尝试举例说明。它将删除您使用的索引，因为我认为这对您的问题无关紧要。 $t$

假设我们的模型是其中和。那么，由于缺乏偏度（ ) 的正态分布和卡方随机变量的属性与一个 df，即。。

y_{i} = x_{i} β + u_{i},

$y_i=x_i\beta+u_i,$

x \sim N (0, 1)

$x\sim N(0,1)$

u_{i} = x_{i}^{2} - 1

$u_i=x_i^2-1$

c o v (x, u) = E (x^{3} - x) - E (x) E (x^{2} - 1) = 0 - 0 - 0 \cdot 0 = 0,

$cov(x,u)=E(x^3-x)-E(x)E(x^2-1)=0-0-0\cdot0=0,$

E (x^{3}) = 0

$E(x^3)=0$

x^{2}

$x^2$

E (x^{2}) = 1

$E(x^2)=1$

因此，假设满足，尽管和显然不是独立的： $x$ $u$ $E(u|x)=E(x^2|x)-1=x^2-1$

OLS 的标准一致性证明告诉我们 OLS 将与保持一致。 $\beta$

这是一个小模拟来确认：

library(MASS)
n <- 1000
reps <- 2000

beta <- 2
estimates <- matrix(NA,reps)

for (i in 1:reps){
  x <- rnorm(n)
  u <- x^2-1
  y <- beta*x + u
  estimates[i] <- summary(lm(y~x))$coefficients[2]
}
summary(estimates)
       V1       
 Min.   :1.651  
 1st Qu.:1.934  
 Median :2.001  
 Mean   :2.000  
 3rd Qu.:2.067  
 Max.   :2.380

如果没有更强的假设，它不会做的是估计对的部分影响，即下面是对的图，用于模拟的一种实现： $E(u_i|x_i)=0$ $x$ $y$

\frac{\partial E (y | x)}{\partial x} = β + 2 x

$\frac{\partial E(y|x)}{\partial x}=\beta+2x$

y

$y$

x

$x$

然后，您一致估计的是在常数和上的投影的线性投影系数。它由 $y$ $x$

\frac{c o v (y, x)}{v a r (x)} = \frac{E ((2 x + x^{2} - 1) x) - E (x) E (y)}{1} = E (2 x^{2}) = 2

$\frac{cov(y,x)}{var(x)}=\frac{E((2x+x^2-1)x)-E(x)E(y)}{1}=E(2x^2)=2$

其它你可能感兴趣的问题

上一篇是否存在多高斯版本的马氏距离？下一篇关于贝叶斯结构时间序列模型的问题