02 无损数据压缩(7)

2.1数据压缩的基本原理和方法

例如：若信号x{a1,a2}的概率分别为P(a1)=0.9,

P(a2)=0.1,则符号的平均信息量，即信源x的熵为H(x)=-(0.9×lb0.9+0.1×lb0.1)=0.467 bit 若a1, a2等概率，P(a1)=P(a2)=0.5,则信源x的平均 信息量达到最大，即 H(x)=Hm(x)=lb2=1 bit 所以二进制1位数据(0/1)的每1位的信息量即为1比特。