河北科技大学2012——2013 学年第一学期
《信息科学基础》试卷（A′）
学院 理学院 班级 姓名 学号
题号 得分 得分 一、简答题（共8题，每题5分）
1.居住某一地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占总数一半。假如我们得知“身高1.6米以上的女孩是大学生”的消息，问获得多少信息量？
2．有一个马尔可夫信源，已知转移概率为p(S1/S1)?23，p(S2/S1)?一 二 总分 13，
p(S1/S2)?1，p(S2/S2)?0。试画出状态转移图，并求出信源熵。
A卷（共13页）第1页
?2?33.设二进制对称信道的传递矩阵为??1??31?3?? 2?3??（1）若P(0)=3/4,P(1)=1/4,求H(X)、H(X/Y)、H(Y/X)和I(X；Y)； （2）求该信道的信道容量及其达到信道容量的输入概率分布。
4. 求以下三个信道的信道容量：
，
，
A卷（共13页）第2页
5. 有一信源，它有6个可能的输出，其概率分布如下表所示，表中给出了对应的码A，B，C，D，E和F。 消息 a1 a2 a3 a4 a5 a6 p(ai) A 000 001 010 011 100 101 B 0 01 011 0111 01111 C 0 10 110 1110 11110 D 0 10 110 1110 1011 1101 E 0 10 1100 1101 1100 1111 F 0 100 101 110 111 011 1/2 1/4 1/16 1/16 1/16 1/16 011111 111110 (1)求这些码中哪些是唯一可译码； (2)求哪些是非延长码（即时码）； (3)对所有唯一可译码求出其平均码长L
6. 解释等长信源编码定理和无失真变长信源编码定理，说明对于等长码和变长码，最佳码的每符号平均码长最小为多少？编码效率最高可达多少？
7. 设某二元码书C={111000，001011，010110，101110}，
A卷（共13页）第3页
。
①假设码字等概率分布，计算此码的编码效率？
②采用最小距离译码准则，当接收序列为110110时，应译成什么码字？
?1?2?18. 设有一离散无记忆信道，其信道矩阵为P???6?1???3p(x2)?p(x3)?141312161?6??1?1，若p(x1)?，3?2?1?2??。试求最佳译码时的平均错误概率。
得分 二、综合题（共6题，每题10分）
??1??1. 某一信道，其输入X的符号集为?0,,1?，输入Y的符号集为?0,1?,信道矩阵
2?1?1为P???2?0?0??1?2?1??，现有4个消息的信源通过这信道传输（消息等概率出现），若
对信源进行编码，我们选这样一种码，C:{(x1,x2,,)} xi?0或1(i?1,2)
221111其码长为n?4。并选取这样的译码规则f(y1,y2,y3,y4)?(y1,y2,,)
22（1） 这样编码后信息传输率等于多少？
A卷（共13页）第4页
（2） 证明在选用的译码规则下，对所有码字有PE?0
2、二元平稳马氏链，已知P（0/0）=0.8，P（1/1）=0.7，求：每三个符号合成一个来编二进制Huffman码,试建立新信源的模型，给出编码结果。
00?q3.设某齐次马氏链的一步转移概率矩阵为?1q?2??01p0q20?? p?p??A卷（共13页）第5页