每个结果的分布将是，即对于每个。这产生$[1/4,1/4/,1/4,1/4]$$p_i=1/4$$i\in \{1,2,3,4\}$

$$H(p)=-4\times \frac{1}{4}\times\log_2\frac{1}{4}=2$$

正如评论中所指出的，N 面公平骰子的答案是 : $\log N$

$$H(p)=-\sum_{i=1}^N\frac{1}{N} \log\frac{1}{N}=-\log \frac{1}{N}=\log N$$

这对于任何基数的日志都是如此，具体取决于所使用的熵定义。在这个特定的问题中，它是 base。$2$

种不同的等可能可能性的情况下，不仅公式减少到 (如果我们专门讨论以比特测量的熵) ，而且不同概率的公式来自同样可能的情况，而不是相反。香农熵是平均指定状态所需的位数。如果所有状态的可能性相同，我们可以去掉“平均”部分。然后我们有位可以指定个状态，或者位需要指定个状态。指定$\log N$$\log_2N$$N$$S$$2^S$$\log_2 N$$N$$4$不同的状态可以清楚地用位来完成；有不同位二进制数。$2$$4$$2$

至于概率不同的情况，假设我们有一个的状态和两个的状态。然后我们可以为第一个状态分配标签和其他两个状态和。一半的时间我们使用位，一半的时间我们使用位，所以我们有位的熵。当概率不是的幂时会更复杂，但我们仍然可以在极限中给出类似的计算。也就是说，如果我们有一个长度为的字符串，由独立的随机字母组成，并且单个字母的熵为$p=0.5$$p = 0.25$$0$$10$$11$$1$$2$$1.5$$2$$l$$S$，那么我们可以平均表示少于位的字符串，并且每个字母的位在限制中$S(l+1)$$S$

总和是所有可能结果的总和，是每个结果的概率。有 4 个结果，所以总和将超过每一个 - 也就是说，将代表骰子的一个面，而将是骰子在那个面朝上的情况下落地的概率. 对于一个公平的骰子，那将是然后你是对的，熵将是或 2 位。$p_i$$i$$p_i$$\frac{1}{4}$$4 \left(-\frac{1}{4} \lg \frac{1}{4}\right) = \lg 4$