2.1数据压缩的基本原理和方法(2) 信源的熵。一个通信系统并非只传送1个符号,而是多个符号,这就需要定义整个信源符号的平均信息量的大小。 我们把自信息的统计平均值——数学期望H( x ) m
P(a )lbP(a )j j j 1
(2.2)
即信源x中每个符号的平均信息量,称为信源x的熵。 当信源x中的每个符号是等概率的且是独立的时候,平均 信息量最大,此时1 ,j=1,2,…,m P(a j ) m
代入式(2.2)得
H(x) H max lbm
(2.3)
2.1数据压缩的基本原理和方法(2) 信源的熵。一个通信系统并非只传送1个符号,而是多个符号,这就需要定义整个信源符号的平均信息量的大小。 我们把自信息的统计平均值——数学期望H( x ) m
P(a )lbP(a )j j j 1
(2.2)
即信源x中每个符号的平均信息量,称为信源x的熵。 当信源x中的每个符号是等概率的且是独立的时候,平均 信息量最大,此时1 ,j=1,2,…,m P(a j ) m
代入式(2.2)得
H(x) H max lbm
(2.3)
下一篇:地中海建筑风格分析