##### 自信息 - 自信息 - 对于一个离散随机变量 $X$ 及其可能的取值集合 $\{x_1, x_2, \ldots, x_n\}$, 每个事件的自信息定义为 $I(x_i) = -\log_2 P(x_i)$, 其中 $I(x_i)$ 指随机变量取值 $x_i$ 时的信息量, $P(x_i)$ 指事件 $x_i$ 发生的概率