信息基础论必备考卷
1. 在无失真的信源中，信源输出由 H(X) 来度量；在有失真的信源中，信源输出由 R(D) 来度量。
2. 要使通信系统做到传输信息有效、可靠和保密，必须首先 信源 编码， 然后_____加密____编码，再______信道_____编码，最后送入信道。
3. 带限AWGN波形信道在平均功率受限条件下信道容量的基本公式，也就是有名的香农公式是C?Wlog(1?SNR)；当归一化信道容量C/W趋近于零时，也即信道完全丧失了通信能力，此时Eb/N0为 -1.6 dB，我们将它称作香农限，是一切编码方式所能达到的理论极限。
4. 保密系统的密钥量越小，密钥熵H(K)就越 小 ，其密文中含有的关于明文的信息量I(M；C)就越 大 。
5. 已知n＝7的循环码g(x)?x?x?x?1，则信息位长度k为 3 ，校验多项式 h(x)= x?x?1 。
6. 设输入符号表为X＝{0，1}，输出符号表为Y＝{0，1}。输入信号的概率分布为p＝(1/2，1/2)，失真函数为d(0，0) = d(1，1) = 0，d(0，1) =2，d(1，0) = 1，则Dmin＝ 0 ，R(Dmin)＝ 1bit/symbol ，相应的编码器转移概率矩阵[p(y/x)]＝?0 ，相应的编码器转移概率矩阵[p(y/x)]＝??10??。 10???10??；Dmax＝ 0.5 ，R(Dmax)＝ 01??3427. 已知用户A的RSA公开密钥(e,n)=(3,55)，p?5,q?11,则?(n)? 40 ，他的秘密密钥(d,n)＝(27,55) 。若用户B向用户A发送m=2的加密消息，则该加密后的消息为 8 。
二、判断题
1. 可以用克劳夫特不等式作为唯一可译码存在的判据。 （? ） 2. 线性码一定包含全零码。 （? ）
3. 算术编码是一种无失真的分组信源编码，其基本思想是将一定精度数值作为序列的 编码，是以另外一种形式实现的最佳统计匹配编码。 （×） 4. 某一信源，不管它是否输出符号，只要这些符号具有某些概率特性，就有信息量。 （×） 5. 离散平稳有记忆信源符号序列的平均符号熵随着序列长度L的增大而增大。 （×） 6. 限平均功率最大熵定理指出对于相关矩阵一定的随机矢量X，当它是正态分布时具 有最大熵。 （? ） 7. 循环码的码集中的任何一个码字的循环移位仍是码字。 （? ） 8. 信道容量是信道中能够传输的最小信息量。 （×） 9. 香农信源编码方法在进行编码时不需要预先计算每个码字的长度。 （×） 10. 在已知收码R的条件下找出可能性最大的发码Ci作为译码估计值，这种译码方 法叫做最佳译码。 （? ）
三、计算题
某系统（7，4）码
c?(c6c5c4c3c2c1c0)?(m3m2m1m0c2c1c0)其三位校验
位与信息位的关系为：
?c2?m3?m1?m0??c1?m3?m2?m1 ?c?m?m?m210?0（1）求对应的生成矩阵和校验矩阵；
（2）计算该码的最小距离；
（3）列出可纠差错图案和对应的伴随式； （4）若接收码字R=1110011，求发码。
?1?0解：1. G???0??001000010000110111?0?11?1? H??1?1?1???00?10111111011000?0 1?? 00??12. dmin=3 3.
S 000 001 010 100 101 111 011 110 E 0000000 0000001 0000010 0000100 0001000 0010000 0100000 1000000
4. RHT=[001] 接收出错
E=0000001 R+E=C= 1110010 (发码)
四、计算题
已知?X,Y?的联合概率p?x,y?为： 求H?X?，H?Y?，H?X,Y?，I?X;Y?
解: p(x?0)?2/3 p(x?1)?1/ 3X01Y01/3011/31/3p(y?0)?1/3 p(y?1)?2/ 3H?X??H?Y??H(1/3,2/3)?0.918 bit/symbol H?X,Y??H(1/3,1/3,1/3)=1.585 bit/symbol
I?X;Y??H(X)?H(Y)?H(X,Y)?0.251 bit/symbol
五、计算题
一阶齐次马尔可夫信源消息集X?{a1,a2,a3}，
状态集S?{S1,S2,S3}，且令Si?ai,i?1,2,3，条件转移概率为
?141412??，(1)画出该马氏链的状态转移图； P(aj/Si)???131313???23130????(2)计算信源的极限熵。 解：(1)
12?14w1?3w2?3w3?w1?111?4w1?3w2?3w3?w2?（2）1w?1w?w3?2132?w?w?w?123?1
?w1?0.4?→?w2?0.3 ?w?0.3?3
H(X|S1) =H(1/4,1/4,1/2)=1.5比特/符号 H(X|S2)=H(1/3,1/3,1/3)=1.585比特/符号
H(X|S3)=H(2/3,1/3)= 0.918比特/符号
H3??wHX|S?0.4?1.5?0.3?1.585?0.3?0.918?1.351比特/符号 ?iii?1??
六、计算题
?X??x1x2?若有一信源?????，每秒钟发出2.55个信源符号。 P0.80.2????将此信源的输出符号送入某一个二元信道中进行传输 （假设信道是无噪无损的，容量为1bit/二元符号）， 而信道每秒钟只传递2个二元符号。
（1） 试问信源不通过编码（即x1?0,x2?1在信道中传输） （2） 能否直接与信道连接？
（3） 若通过适当编码能否在此信道中进行无失真传输？ （4） 试构造一种哈夫曼编码(两个符号一起编码)，
（5） 使该信源可以在此信道中无失真传输。
解：1.不能，此时信源符号通过0，1在信道中传输，2.55二元符号/s>2二元符号/s 2. 从信息率进行比较， 2.55*H(0.8,0.2)= 1.84 < 1*2 可以进行无失真传输
00.6400.64 x1x10.641
3.
111x1x2 0.16 0.2100101x2x1 0.16 x2x20.0401 0.16 01 0.36 K??piKi?0.64?0.16*2?0.2*3?1.56 二元符号/2个信源符号
i?14此时 1.56/2*2.55=1.989二元符号/s < 2二元符号/s
七、计算题
两个BSC信道的级联如右图所示： （1）写出信道转移矩阵； （2）求这个信道的信道容量。
解： （1）
01??01??0??11????11??1???1?????(1??)2??2?1??P?PP12?????????1??1???????2?(1??)222?(1??)? 22?(1??)??? （2）C?log2?H((1??)??)
信息理论与编码试卷Ａ答案
中南大学考试试卷
200 -- 2010 学年 上学期期末考试试题 时间100分钟
信息论基础 课程 32 学时 学分 考试形式： 闭 卷
专业年级： 通信07级 总分100分，占总评成绩70%
注：此页不作答题纸，请将答案写在答题纸上
一填空题（本题20分，每小题2分）
1 无失真信源编码的中心任务是编码后的信息率压缩接近到 1 限失真压缩中心任务是在给定的失真度条件下，信息率压缩接近到 2 。 2信息论是应用近代数理统计方法研究信息的传输、存储与处理的科学，故称为 3 ；1948年香农在贝尔杂志上发表了两篇有关的“通信的数学理论”文章，该文用熵对信源的 4 的度量，同时也是衡量 5 大小的一个尺度；表现在通信领域里，发送端发送什么有一个不确定量，通过信道传输，接收端收到信息后，对发送端发送什么仍然存在一个不确定量，把这两个不确定量差值用 6 来表示，它表现了通信信道流通的 7 ,若把它取最大值，就是通信线路的 8 ，若把它取最小值，就是 9 。
3 若分组码H阵列列线性无关数为n,则纠错码的最小距离dmin为 10 。
二 简答题 （本题20分，每小题4分）
1. 根据信息理论当前无失真压宿在压宿空间和速度两个方向还有研究价值吗？
2. 我们知道，“猫”(调制解调器的俗称)是在模拟链路上传输数字数据的设备，它可以在一个音频电话线上传输二进制数据，并且没有太高的错误率。现在，我们上网用的“猫”的速度已可达到56Kbps了，但是，如果你用网络蚂蚁或其它软件从网上下载东西时，你会发现很多时候网络传输的速度都很低，远低于56Kbps（通常音频电话连接支持的频率范围为300Hz到3300Hz，而一般链路典型的信噪比是30dB）（摘自中新网） 3. 结合信息论课程针对”信息”研究对象,说明怎样研究一个对象. 4. 用纠错编码基本原理分析由下列两种生成矩阵形成线性分组码的优劣
（1） （2）
5. 新华社电,2008年 5月16日下午6时半，离汶川地震发生整整100个小时。虚弱得已近
昏迷的刘德云被救援官兵抬出来时，看到了自己的女儿。随即，他的目光指向自己的左手腕。女儿扑上去，发现父亲左手腕上歪歪扭扭写着一句话：“我欠王老大3000元。” 请列出上面这段话中 信号、 消息、 信息。
三 计算编码题（本题60分）
1. 从大量统计资料知道，男性中红绿色盲的发病率为7%，女性发病率为0.5%。（10分）
（1） 若问一位女士：“你是否是色盲？”他的回答可能是“是”，可能是“否”，
问这两个回答中各含多少信息量？从计算的结果得出一个什么结论？