香农熵是否唯一表征分布函数Ff?

机器算法验证 数理统计 信息论
2022-03-21 18:44:06

如果我有一个分布f(x)在支持是整条线的实线上,香农熵是否唯一表征f? 即,我们有H(f)=H(f)暗示f=f? (反之亦然。)

1个回答

答案是否定的。对于任何实数a定义函数

fa(x)=f(xa).

很明显,当f是分布函数,所以是fa;f在实线上是支持的,所以是fa;并且两者都ffa有相等的熵。 为了a0这是不可能的f=fa,不过,如果是这样,f将是周期性的a因此总概率为零或无限,这对于任何概率分布都是不可能的。