C.无扰信道 D.消息先验等概 14.下列说法正确的是（ C ）。
A.等重码是线性码 B.码的生成矩阵唯一
C.码的最小汉明距离等于码的最小非0重量 D.线性分组码中包含一个全0码字
15.二进制通信系统使用符号0和1，由于存在失真，传输时会产生误码，用符号表示下列事件，u0:一个0发出 u1:一个1发出 v0 :一个0收到 v1:一个1收到
则已知收到的符号，被告知发出的符号能得到的信息量是（ A ）。 A. H(U/V) B. H(V/U) C. H(U,V) D. H(UV) 16. 同时扔两个正常的骰子，即各面呈现的概率都是1/6，若点数之和为12，则得到的自信息为（ B ）。
A. －log36bit B. log36bit C. －log (11/36)bit D. log (11/36)bit
17.下列组合中不属于即时码的是（ A ）。
A. { 0，01，011} B. {0，10，110} C. {00，10，11} D. {1，01，00}
?111010???18.已知某（6，3）线性分组码的生成矩阵G?110001，则不用计????011101??算就可判断出下列码中不是该码集里的码是（ D ）。
A. 000000 B. 110001 C. 011101 D. 111111 19.一个随即变量x的概率密度函数P(x)= x /2，0?x?2V，则信源的相对熵为（ C ）。
A. 0.5bit/符号 B. 0.72bit/符号 C. 1bit/符号 D. 1.44bit/符号
复习－11
20.设有一个无记忆信源发出符号A和B，已知p(A)?14,p(B)?34，
2发出二重符号序列消息的信源，无记忆信源熵H(X) 为（ A ）。
A.0.81bit/二重符号 B.1.62bit/二重符号 C.0.93 bit/二重符号 D .1.86 bit/二重符号
三、判断题
1.确定性信源的熵H(0,0,0,1)=1。 （ 错 ） 2.信源X的概率分布为P(X)={1/2, 1/3, 1/6}，对其进行哈夫曼编码得到的码是唯一的。
（ 错 ）
3.离散无记忆序列信源中平均每个符号的符号熵等于单个符号信源的符号熵。 （ 对 ）
4.非奇异的定长码一定是唯一可译码。 （ 错 ）
5.信息率失真函数R(D)是在平均失真不超过给定失真限度D的条件下，信息率容许压缩的最小值。 （ 对 ）
6.信源X的概率分布为P(X)={1/2, 1/3, 1/6}，信源Y的概率分布为P(Y)={1/3,1/2,1/6}，则
信源X和Y的熵相等。 （ 对 ）
7.互信息量I(X;Y)表示收到Y后仍对信源X的不确定度。 （ 对 ）
8.对信源符号X={a1,a2,a3,a4}进行二元信源编码，4个信源符号对应码字的码长分别为K1=1，K2=2，K3=3，K3=3，满足这种码长组合的码一
复习－12
定是唯一可译码。 （ 错 ）
9.DMC信道转移概率矩阵为P???1/31/31/61/6?，则此信道??1/61/61/31/3?在其输入端的信源分布为P(X)={1/2,1/2}时传输的信息量达到最大值。 （ 错 ）
10.设C = {000000, 001011, 010110, 011101, 100111, 101100, 110001,
111010}是一个二元线性分组码，则该码最多能检测出3个随机错误。 （错 ）
四、名词解释 1.极限熵: 2.信道容量: 3.平均自信息量: 五、计算题 1.设离散无记忆信源
?X??a1?0a2?1a3?2a4?3??P(x)???3/81/41/41/8?????
其
发
生
的
消
息
为
（202120130213001203210110321010020320011223210），
（1）根据“离散无记忆信源发出的消息序列的自信息等于消息中各个符号的自信息之
和”，求此消息的自信息量；
（2）在此消息中平均每个符号携带的信息量是多少？ 2.已知一个二元信源连接一个二元信道，如图所示。其中，
?X??x1?P???1????2
x2?1?。 ?2?复习－13
试求：I(X,Y)，H(X,Y)，H(X/Y)，和H(Y/X)。
3.设输入信号的概率分布为P=(1/2,1/2)，失真矩阵为d??求Dmin，Dmax，R(Dmin)，R(Dmax)。
4.信源X共有6个符号消息，其概率分布为P(X)={0.37，0.25，0.18，0.10，0.07，0.03}。
（1）对这6个符号进行二进制哈夫曼编码（给出编码过程），写出相
应码字，并求出平均码长和编码效率。
?01??。试20??（2）哈夫曼编码的结果是否唯一？如果不唯一，请给出原因。 5.二进制通信系统使用符号0和1，由于存在失真，传输时会产生误码，用符号表示下列事件。
x0：一个0发出；x1：一个1发出 y0：一个0收到；y1：一个1收到
给定下列概率：p(x0)=1/2，p(y0/x0)=3/4，p(y0/x1)=1/2。 （1）求信源的熵H(X)；
（2）已知发出的符号，求收到符号后得到的信息量H(Y/X)； （3）已知发出和收到的符号，求能得到的信息量H(X,Y)。 6.设DMC信道的传输情况如下图所示。 （1）试写出该信道的转移概率矩阵；
复习－14
（2）求该信道的信道容量。
7.设输入信号的概率分布为P=(1/2,1/2)，失真矩阵为
?011/4?。试求Dmin，Dmax，R(Dmin)，R(Dmax)。 d????101/4?8.设有离散无记忆信源X共有5个符号消息，其概率分布为
P(X)={0.4，0.2，0.2，0.1，0.1}。
（1）对这5个符号进行二进制哈夫曼编码（给出编码过程），写出相
应码字，并求出平均码长和编码效率； （2）哈夫曼编码的结果是否唯一？如果不唯一，请给出原因。
复习－15