杭州电子科技大学信息论与编码期末试卷及答案
多少信息量。
杭州电子科技大学学生考试卷 (A) 卷考试课程 课程号 学生姓名信息论与编码
r1 = 2k 解：根据题意有 R = 0 .7
r 2 = 5k w1 = 1 / 8 w2 = 1 / 4 ,W = , p( w1 / r1) = 0.8 0 .3 0.36 0.64
考试日期 教师号 任课教师 班级
成绩
由 p( w1) = p(r1) p ( w1 / r1) + p( r 2) p ( w1 / r 2) p( w1 / r 2) = 4 / 15 所以 p( w2 / r 2) = 1 p ( w1 / r 2) = 11 / 15 得知 5kΩ电阻的功耗为 1/4W,获得的自信息量为 lb( p( w2 / r 2)) = 0.448bit
学号(8 位)
一、填空题(每空 2 分，共 32 分) 。1. 在现代通信系统中，信源编码主要用于解决信息传输中的
有效性
,信道编码主要用 安全性 。 a1 三、 (18 分)已知 6 符号离散信源的出现概率为 1 2 a2 1 4 a3 1 8 a4 1 16 a5 1 32 a6 1 ,试计算它的 32
于解决信息传输中的
可靠性
,加密编码主要用于解决信息传输中的
1.75bit/符号 。 2. 离散信源 X = x1 x 2 x 3 x 4 ,则信源的熵为 p ( x) 1 / 2 1 / 4 1 / 8 1 / 8 3. 对称 DMC 信道的输入符号数为 n,输出符号数为 m,信道转移概率矩阵为 pij,则该信
道的容量为 C = log m +
j =1
∑ pij log pij 。n
m
熵、Huffman 编码和费诺编码的码字、平均码长及编码效率。解：该离散信源的熵为 H ( x) = ∑ pi lb( pi ) =i =1 6
4. 采用 m 进制编码的码字长度为 Ki,码字个数为 n,则克劳夫特不等式为 ∑ m Ki ≤ 1 ,i =1
1 1 1 1 1 1 lb 2 + lb 4 + lb8 + lb16 + lb32 + lb32 2 4 8 16 32 32
=1.933 bit/符号 Huffman 编码为：
它是判断
唯一可译码存在
的充要条件。 前向纠错 、 反馈重发 和 混合纠错 。 。
5. 差错控制的基本方式大致可以分为
符号 概率 a1 0.5 a2 0.25 a3 0.125 a4 0.0625 a5 0.03125 1 0.0625 0 0 平均码长 l = 1 0.125 0 1 0.25 0 1 0.5 0 1 1.0
码字 1 01 001 0001 00001 00000
6. 如果所有码字都配置在二进制码树的叶节点，则该码字为
唯一可译码
7. 齐次马尔可夫信源的一步转移概率矩阵为 P,稳态分布为 W,则 W 和 P 满足的方程为 W=WP
。
8. 设某信道输入端的熵为 H(X),输出端的熵为 H(Y),该信道为无噪有损信道，则该信
道的容量为
MAX H(Y)
。 等概_____分布情况下，信
9. 某离散无记忆信源 X,其符号个数为 n,则当信源符号呈
a6 0.03125
源熵取最大值___log(n) 。10. 在信息处理中，随着处理级数的增加，输入消息和输出消息之间的平均互信息量趋于
1 1 1 1 1 1 * 1 + * 2 + * 3 + * 4 + * 5 + * 5 = 1.933码元 / 符号 2 4 8 16 32 32H ( x) l = 100%
减少
。
编码效率为 η =
二、 12 分)设有一批电阻，按阻值分 70%是 2kΩ,30%是 5kΩ;按功耗分 64%是 1/8W, (36%是 1/4W。现已知 2kΩ电阻中 80%是 1/8W,假如
得知 5kΩ电阻的功耗为 1/4W,问获得
第1页 共3页