同理得
17LB?（码元/信息符号）8
17LC?（码元/信息符号）86.4 1．?xx,xz,y,zz,xyz?
（1）此码的码长满足Kraft-McMillan不等式:
111113393119???????????1 3232313233272727272727（2）根据码树图可知，此码是即时码；
（3）由于此码是即时码，所以它也是唯一可译码。 2．?000,10,00,11?
（1）此码满足Kraft-McMillan不等式：
111112227?????????1 2322222288888（2）此码不是即时码，因为码字00是码字000的前缀；
（3）此码不是唯一可译码，因为码符号序列000000可以译码为00，00，00，也可以译码为000，000。 3．?100,101,0,11?
（1）此码满足Kraft-McMillan不等式：
111111428?????????1 2323212288888（2）根据码树图可知，此码是即时码；
（3）由于此码是即时码，所以它也是唯一可译码。 4．?01,100,011,00,111,1010,1011,1101? （1）此码不满足Kraft-McMillan不等式：
111111114224211117?3?3?2?3?4?4?4??????????1 222222222161616161616161616（2）因为不满足Kraft-McMillan不等式，所以此码不是即时码； （3）因为不满足Kraft-McMillan不等式，所以此码不是唯一可以码。 5．{01，111，011，00，010，110}
（1）此码不满足Kraft-McMillan不等式：
1111112112118?????????????1 2223232223238888888（2）此码不是即时码，因为码字01是码字011的前缀；
（3）此码是唯一可译码。根据唯一可译码判决准则，我们构造以下的尾随后缀序列：
C??01,111,011,00,010,110?
F0??1,0?F1??11,10,1,0? F2??11,10,1,0??13?6.5 （1）H?S??H?,??0.811(bit/信源符号)
?44?13（2）p?0?=p?A??，p?1??p?B??
44（3）对二重延长消息采用费诺方法编码，结果为
BB:0BA:10AB:110AA:111
平均码长：
1L?N?pli?14ii?1?1.6875?0.844(码元/信源符号) 20.811?0.961(bit/码元符号) 0.844平均信息传输速率
R?H?S?L?码元0和1的概率分别为
9313123?????1616216332
313219p?1???????1621631632p?0??（4）对三重延长消息采用霍夫曼方法编码，结果为
BBB:1BBA:001BAB:010BAA:00000
ABB:011ABA:00001AAB:00010AAA:00011平均码长：
181L??pili??2.46875?0.823(码元/信源符号)
Ni?13平均信息传输速率
R?H?S?L?0.811?0.985(bit/码元符号) 0.83码元0和1的概率分别为
9292913343413117?????????????64364364364645645645320
27919192313112203p?1???????????????64643643643645645645320p?0??6.6 由香农第一定理知
H?S?logr?1LNH?S??? NNlogr显然当N??时
LNH?S?? Nlogr
此时的信息传输率为
R?H?S?L?H?S?H?S??logr logr编码后原信源变换成一个新的信源
?X??x1?P???p???1x2p2xr? pr??新信源的信道容量C?logr，且在输入信源等概率时达到此容量。 由式R?H?S?L?H?S?H?S??logr知，经过霍夫曼编码后，信心传输率达到信道容量，logr1很难推出此时的信源趋于等概分布，即pi=。
r6.7 （1）至少需要二位二进制码元来发送4个等概发生的信息
晴——00，云——01，雨——10，雾——11 （2）4个消息的概率恰好是2的负整数次幂，根据bi??logpi得 晴——2位，云——3位，雨——3位，雾——1位
（3）采用霍夫曼方法得
雾——0，晴——10，云——110，雨——111
它们的平均码长分别为：
1第一种情况：L??2?4?2(码元/信源符号)
4111??2??6?1.75(码元/信源符号) 2486.8 （1）采用霍夫曼编码方法得到最佳二元码为 第二种情况：L?s1:000s6:111s2:010s70010s3:011s8:0011s4:100s9:1010s5:110s10:1011
平均码长：
L??pili?3.26(码元/信源符号)
i?110编码效率
??H?S?Llogr?3.23?0.9908 3.26（2）仍采用霍夫曼编码方法求得最佳三元码
s1:00s6:20s2:01s721s3:02s8:22s4:10s9:110s5:12s10:111
平均码长：
L??pili?2.11(码元/信源符号)
i?110
编码效率
??H3?S?L?H3?S?Llog3?2.038?0.966 2.11s3:01
6.9 （1）采用霍夫曼方法进行编码，得s1:1平均码长：
s2:00L??pili?1.5(码元/信源符号)
i?13信源熵为
H?S????pilogpi?1.458(bit/信源符号)
i?13编码效率
??H?S?L?0.99
?S2??s1s1s1s2s2s1s1s3s3s1s2s2s2s3s3s2s3s3?（2）????? 0.250.150.150.10.10.090.060.060.04P????霍夫曼编码后
s1s1:10s2s2:0000s1s2:001s2s30001s2s1:011s1s3:110s3s1:111s3s2:0110s3s3:0111
平均码长：
L??pili?3(码元/信源符号)
i?19信源熵为
H?S2????plogpii?19i?2.971(bit/信源符号)
编码效率
??H?S2?L?0.99
（3）同理可得S3的最佳二元码，计算平均码长和编码效率。具体步骤略。 6.10 霍夫曼编码的结果为：
s1:01s2:11s3:000s4:001s5:100s6:101
平均码长：
L??pili?2.55(码元/信源符号)
i?16信源熵为
H?S????pilogpi?2.504(bit/信源符号)
i?16平均信息传输速率
2.61?0.982(bit/码元符号)
L3.146.11 （1）{0，10，11}是概率分布{1/2,1/4,1/4}的Huffman编码。
R??H?S?（2）{00，01，10，110}可以被改进为{00，01，10，11}而不丧失其即时可译性，因此原码不是最佳码，因此也就不是一个Huffman编码。
另外，此码中最长的码长只有一个码字，这也和Huffman编码的特性不符。
（3）{01，10}可以被改进为{0，1}而不丧失其即使可译性，因此原码不是最佳码，也就不是一个Huffman编码。 6.12 4位
6.13 （1）不存在
（2）存在{0，1，20，21，220，221，222} （3）不存在
6.14 对灰度{0，4，5，6，7}编码为{10，0，2，11，12}，??94%
6.15 码{0，010}是唯一可译码，但是它既不满足前缀条件也不满足后缀条件。换句话说，在
这个码中，某些码字是另外一些码字的前缀，并且某些码字是另外一些码字的后缀。 6.16 （1）我们将品尝次数看作码字的码长，由于只能依次品尝每一瓶酒，所以对于这个题
目而言码长只能是1，2，3，4，4这样的分布，所需的平均品尝次数就是平均码长，想要使得平均码长最小，则应该将较短的码长安排给概率较大的符号，因此所需的最小平均品尝次数为
5111117pili??1??2??3??4??4??2.33 ?3466123i?1（2）应该首先品尝概率为1/3的那瓶酒。
（3）这个问题可以转化为求取此概率分布的Huffman编码，如图所示
0001111001011/31/41/61/61/12
品尝时首先将第一比特为0的酒混合起来品尝，分出好坏后再按照第二比特来混合，直到找到坏酒，因此品尝的平均次数为
51111127pili??2??2??2??3??3??2.25 ?34661212i?1（4）根据上述编码，首先应该品尝第一和第二瓶酒的混合，或者第三，四，五瓶酒的混合。
由于Huffman编码不是唯一的，所以还存在另外的方案，其对应的编码如下：
概率 码字 1/3 00 1/4 10 1/6 11 1/6 010 1/12 011 在这种方案的指导下，首先应该品尝第一、四、五瓶酒的混合。 6.17 序列S ?
F(S) 0 p(S) 1 码长 --- 码字 --- 计算过程 ---