(a)码A中,任一码字不是其它码字的字头,是异字头码.码B不是异字头码,但码A和码B均是唯一可译码.(b)对码AI(ap(a11)1;1)?log2p(a?log12(a?1.321)p1)bit对码BI(a1;1)?logp(a11)2p(a?logp(a1)2)?0bit1)p(a1(c)U??a1,a2,a3,a4?对码A,4I(U;1)??p(ap(ak1)k1)log2p(?1.32bitk?1ak)对码B4I(U;1)??p(ak1)logp(ak1)2k?1p(a)?0bitk3.5解:
(a)二元Huffman编码
10H(U)???p(ak)log2p(ak)?3.234bitsk?1平均码长10n??p(ak)nk?3.26
k?1编码效率??H(U)R?H(U)nlog?3.23426?99.2-3.(b)三元Huffman编码
注意:K=10为偶数,需要添一个概率为零的虚假符号
平均码长10n??p(ak)nk?2.11k?1编码效率
??H(U)H(U)R?nlog?3.234?96.6-2.11?log23
21
3.6解:二元Huffman编码 (a)二元Huffman编码
3H(U)???p(ak)log2p(ak)?1.485bitsk?1平均码长3n??p(ak)nk?1.5
k?1编码效率??H(U)H(U)1.R?nlog?4852D1.5?99%(b)
H(U2)?H(U1U2)?2H(U)?2.97bits平均码长9n2??p(ak)nk?3.0
k?1编码效率??H(U2)2H(U)2R?nD?.97?992log23.0%(c)
H(U3)?H(U1U2U3)?3H(U)?4.455bits平均码长27n3??p(ak)nk?4.487k?1编码效率??H(U3)3H(U)4.455R?n??99.32%3log2D4.4873.10 傅P186【5.11】 3.11 解: 3.12 解: 对
22
3.13 解:
(a)根据唯一可译码的判断方法可知,输出二元码字为异字头码,所以它是唯一可译码。
H(U)??0.9?log20.9?0.1?log20.1?0.469 比特 (b)因为信源是二元无记忆信源,所以有 P(Si)?P(Si1)P(Si2)?P(Sin)
其中Si?(Si1,Si2,?,Sin)Si1,Si2,?,Sin??0,1?
S0?1,l1,0?1,p(S0)?0.1S1?1,l1,1?1,p(S1)?0.09S2?1,l1,2?1,p(S2)?0.081S3?1,l1,3?1,p(S3)?0.729S4?1,l1,4?1,p(S4)?0.06561
S5?1,l1,5?1,p(S5)?0.059049S6?1,l1,6?1,p(S6)?0.0531441S7?1,l1,7?1,p(S7)?0.04782969S8?1,l1,8?1,p(S8)?0.43046721可计算每个中间数字相应的信源数字的平均长度 L?81??P(Si)l1,i?5.6953 信源符号/中间数字
i?0(c) 根据表有
l2,0?l2,1?l2,2?l2,3?l2,4?l2,5?l2,6?l2,7?4,l2,8?1
可计算每个中间数字所对应的平均长度
L?82??P(Si)l2,i?2.7086二元码/中间数字
i?0_由
L2_?0.4756 二元码/信源符号
L1 23
编码效率为0.4756/0.469=98.6% 精选题
1.傅P191【5.15】 2.傅P192【5.16】
信道及其容量
作业:4.1 4.3 4.5 4.8 4.9 4.10 4.12 4.14 4.1解: (a) 对称信道 (b) 对称信道
(c) 和信道(课堂教学例题)! 4.3解:
(a): 可先假设一种分布,利用信道其容量的充要条件来计算(课堂教学例题)
(b): 准对称信道! 4.5解:课堂教学例题
4.8解:该题概率有误,应把1/32改为1/64。 每个符号的熵为
H(S)???pilog2pi?2bits
i?18采样频率Fs为 Fs=2W=8000 Hz
24
所以信息速率R为
R?Fs ?H(S)?8000?2?1.6?104 bps
4.9解:每象点8电平量化认为各级出现的概率相等,即H(U)=3 bits 所以信息速率R为
R?30?500?600??2.7?107bps
4.10解:
S?30dB?1000,T?3?60sNSC?Wlog2(1?)?3000?log2(1?1000)?29.9kb/s
N所以,3分钟可能传送话音信息为W?3KHz,29.9?1000?3?60?5.382?106bits
4.12解:W?8KHz,S?31 N高斯信道的信道容量为
C高斯?Wlog2(1?S)?8000?log2(1?31)?4?104bpsNR?105bps?4?104bps?C高斯所以,如该信道是高斯信道,不可实现。如该信道不是高斯信道,因此时信道容量C大于高斯信道的信道容量,即C?4?104bps,但无法判定R与信道容量C的大小关系,故无法判定是否能实现。如R?3?104bps,则一定可以实现,因R?C高斯?C。4.14解:
第五章 离散信道编码定理
习题5.1
解:DMC信道
25