说黎曼和是积分的无偏估计是错误的吗?

机器算法验证 估计者 无偏估计器 不可缺少的
2022-03-08 04:18:26

说积分的黎曼和近似是错误的吗

abf(t)dtk=1nsamplesf(tk)Δt,

在哪里Δt=(ba)/nsamples,以及在哪里tk子区间的左端点或右端点或中点是对真实积分的无偏估计吗?

蒙特卡洛积分逼近的论点N区间内的均匀样本[a,b]似乎随着样本数量趋于无穷大,那么近似值将是概率为 1 的精确积分(参见例如https://cs.dartmouth.edu/wjarosz/publications/dissertation/appendixA.pdf,第 153 页)

黎曼和的同样限制是黎曼积分(的定义),因此我认为黎曼和也是无偏的。

根据我在谷歌上找到的一篇博文(https://blog.evjang.com/2016/09/riemann-bias.html),由于确定性步骤,黎曼和是有偏差的。

但是由于蒙特卡洛积分是无偏的论点使用N到无穷大,我不明白为什么不能将相同的论点用于黎曼和近似。

如果黎曼和是无偏的确实是错误的,如果有人能解释论点中的差异,我会很高兴。

2个回答

您似乎在这里交换了两个不同的概念。这些概念是无偏一致的,它们是估计器的属性。估计器序列(Tn)n=1据说对于一个数量是无偏的θ如果,对于所有人nN,

E[Tn]=θ.

如果它在概率上收敛,则称它是一致的θ.

这些是不同的概念:第一个是说,对于每个有限的样本量,您的估计量的平均值是θ. 另一种说法是,随着样本量的增加,估计量会任意接近θ随着概率的增加。

I=abf(x)dx是您感兴趣的数量(假设它存在)。最基本的蒙特卡洛方法所做的是观察

I=abf(x)dx=(ba)abf(x)1badx=(ba)E[f(X)].

在最后一行,我们把积分写成f(X), 在哪里X有一个均匀的分布(a,b). 因此,如果我们对 iid 随机变量进行抽样(Xi)i=1nX1U((a,b)),然后估计量

Tn=(ba)ni=1nf(Xi),

很容易证明是无偏的I.

当您想到黎曼和时,通常会采用确定性分区。如果它是确定性的,那么任何固定样本量的期望值就是它自身的求和值,通常不是积分的值。

任何常数都是任何不同常数的有偏估计量

由于您在这里使用确定性过程,因此您的黎曼和仅取决于n,所以它是一个常数序列。将统计偏差的概念应用于常数很简单——任何常数都是任何不同常数的有偏估计量,也是其自身的无偏估计量。所以,例如,3是一个有偏估计量2, 但它是一个无偏估计量3.

您的黎曼和通常会成为相应积分的有偏估计量,因为您正在选择点tk确定性地在区间内,因此您的估计量是一个常数。对于黎曼和恰好等于积分的函数(例如,分段线性函数),也有例外。当黎曼和给积分一个不同的值时,它是有偏差的(以同样的方式3是一个有偏估计量2)。当黎曼和给出与积分相同的值时,它是无偏的(与3是一个无偏估计量3)。不管黎曼和是否是有偏的估计量,它仍然是一致的估计量,因为它收敛到真积分为n; 的确,这就是黎曼积分的本质。

现在,如果您要选择t在区间内随机均匀地指向,得到的黎曼和将是积分的无偏估计量。这将是重要性采样估计的一种变体,您可以通过在分区的段内有条件地生成点来改变事物。