机器算法验证 - 回归系数倒数分布 - 吾爱随笔录

假设我们有一个线性模型 $y_i = \beta_0 + \beta_1 x_i + \epsilon_i$ 满足所有标准回归（高斯-马尔可夫）假设。我们感兴趣 $\theta = 1/\beta_1$ .

问题 1：什么假设对于分布 $\hat{\theta}$ 要明确定义？ $\beta_1 \neq 0$ 会很重要——还有其他的吗？

问题 2：添加误差服从正态分布的假设。我们知道，如果 $\hat{\beta}_1$ 是 MLE 和 $g(\cdot)$ 是单调函数，那么 $g\left(\hat{\beta}_1\right)$ 是 MLE $g(\beta_1)$ . 单调性只在附近是必要的吗 $\beta_1$ ? 换句话说，是 $\hat{\theta} = 1/\hat{\beta}$ MLE？连续映射定理至少告诉我们这个参数是一致的。

问题 3： Delta 方法和 bootstrap 方法是否都是寻找分布的合适方法？ $\hat{\theta}$ ?

问题4：这些答案如何改变参数 $\gamma = \beta_0 / \beta_1$ ?

旁白：我们可能会考虑重新安排问题

\begin{aligned} x_{i} & = \frac{β_{0}}{β_{1}} + \frac{1}{β_{1}} y_{i} + \frac{1}{β_{1}} ϵ_{i} \\ = γ + θ y_{i} + \frac{1}{β_{1}} ϵ_{i} \end{aligned}

$\begin{align*} x_i &= \frac{\beta_0}{\beta_1} + \frac{1}{\beta_1} y_i + \frac{1}{\beta_1} \epsilon_i \\ &= \gamma + \theta y_i + \frac{1}{\beta_1} \epsilon_i \end{align*}$ 直接估计参数。这对我来说似乎不起作用，因为高斯马尔可夫假设在这里不再有意义；我们不能谈论

E [ϵ ∣ y]

$\text{E}[\epsilon \mid y]$ ，例如。这种解释正确吗？