2.18 每帧电视图像可以认为是由3?105个像素组成的，所有像素均是独立变化，
且每像素又取128个不同的亮度电平，并设亮度电平是等概率出现，问每帧图像含有多少信息量？若有一个广播员，在约10000个汉字中选1000个汉字来口述这电视图像，试问若要恰当地描述此图像，广播员在口述中至少需要多少汉字？
解：(1)每帧图象包含的信息量
?1283?105?11283?105?log211283?105?2.1?106比特
1000 (2)每1000个汉字提供的信息量log210000?1.3288?104比特
(3)需要
2.19 略
(1)?1000?1.58?105个汉字。 (2)?1222x?yr?22.20 连续变量X和Y的联合概率密度为：p?x,y????r，求
?其他?0??2H(XXYI。X(提示：Y),H()Y,(H)和(:)logsinxdx??log22) ?022?r?x12r2?x2 解：p(x)????p(xy)dy???r?x2dy? 2?r?rs，y?rsin? 令 x?rco?2si?n 则 p(x)?
?r2co?s 同理，由函数对称性 p(y)?
?rr2sin?2sin?H(X)???log2?(?rsin?)d??r?r?r 202sin???r???log2sin??log2?d????2??2222 利用分部积分法、三角函数性质、习题提示并注意自然对数与
以2 为底对数的换算关系可得：
H(X)?H(Y)?log2?r?12log2e?0.93?log2r (比特/符号)
6
H(XY)??2x?y2?r2??112logdxdy?log?r2222?r?r (比特/符号)
?1.65?2log2rI(X;Y)?H(X)?H(Y)?H(XY)?1.86?2log2r?(1.65?2log2r) (比特/符号)
?0.212.21 略 2.22 略
7
第三章习题
3.1 设信源?? X??a1a2?? ????P(X)??0.60.4?通过一干扰信道，接收符号为Y??b1,b2?，信道传递
?56矩阵为??1??41?6?，求 ?34??(1) 信源X中事件a1和a2分别含有的自信息量。
(2) 收到消息bj?j?1,2?后，获得的关于ai?i?1,2?的信息量。 (3) 信源X和信宿Y的信息熵。
(4) 信道疑义度H?XY?和噪声熵H?YX?。 (5) 接收到信息Y后获得的平均互信息量。
解：(1) I(x1)?0.737(比特/符号)，I(x2)?1.322比特/符号，
32(2) p(b1)?,p(b2)?，I(a1;b1)?log255155365?0.47399(比特/符号),
I(a1;b2)?log226??1.26316(比特/符号),
I(a2;b1)?log2I(a2;b2)?log232134545??1.26316 (比特/符号),
?0.90698(比特/符号)
(3) 0.971(比特/符号)，0.971(比特/符号)，
(4)H(XY)?1.6856(比特/符号)，
H(YX)?H(XY)?H(X)?0.7146?H(XY)，
(5) 0.2564比特/符号
?233.2 设二元对称信道的传递矩阵为??1??31?3? 2?3??(1) 若P(0)?34,P(1)?14,求H(X),H?XY?,H?YX?和I(X;Y)；
(2) 求该信道的信道容量及其达到信道容量时的输入概率分布。
解：(1) 0.8113比特/符号，0.7498比特/符号，0.9183比特/符号，0.0615比特
/符号，
(2) 0.0818比特/符号，p(0)=p(1)=1/2
8
3.3 设有一批电阻，按阻值分70%是2k?，30%是5k?；按瓦分64%是1/8W，
其余是1/4W。现已知2k?阻值的电阻中80%是1/8W。问通过测量阻值可以得到的关于瓦数的平均信息量是多少？
解：设随机变量X表示电阻的瓦数，Y表示电阻的阻值，则其概率分布为
?X??x1(1/8)x2(1/4)??Y??y1(2k?)?P(X)???0.64?，?P(Y)???0.70.36???????y2(5K?)? 0.3??已知p(x1y1)?0.8，由概率的归一性：p(x2y1)?0.2 由p(xiyj)?p(xi)p(yjxi),i,j?1,2，得
p(x1y1)?0.56p(x1y2)?0.08p(x2y1)?0.14p(x2y2)?0.22
再由p(xiyj)?p(xiyj)p(yj)411, 得: p(x1y2)?15. ,p(x2y2)?15代入条件熵计算公式得: H(XY)?0.75634(比特/符号)
3.4 参见教材第二章相关内容。 3.5 参见教材第二章相关内容。
3.6 有一个二元对称信道，其信道矩阵为??0.980.02??。设该信源以1500bits的0.020.98??速度传输输入符号。现有一消息序列共有14000个二元符号，并设
p?0??p?1??1，问从信息传输的角度来考虑，10秒钟内能否将这消息序列
2无失真地传递完？
解：信道容量C=0.8586比特/信道符号，则每秒钟可传送的信息量为
1500×0.859=1288.5比特，10秒钟最大可传送的信息量为12885比特，而待传送的信息量为14000比特，因此，10秒钟内不能无失真的传送完毕。
3.7 仿教材例题3.2.1和3.2.2。
9
3.8 已知一个高斯信道，输入信噪比(比率)为3。频带为3kHz，求最大可能传
送的信息率。若信噪比提高到15，理论上传送同样的信息率所需的频带为多少？
提示：由式(3.5.13)可得。 (1) 最大可能传送的信息率是
Ct?wlog2(1?PX)?3?103?log2(1?3)?6?103比特/秒 PN(2) 1.5kHZ 3.9 略 3.10 略
3.11 已知离散信源?? X?? a1 a2 a3 a4??，某信道的信道矩阵为 ???P(X)???0.1 0.3 0.2 0.4?b1a1a2a3a4?0.2?0.6??0.5??0.1b20.30.20.20.3b30.10.10.10.4b40.4?0.1?? 0.2??0.2?试求：
(1) “输入a3，输出b2”的概率； (2) “输出b4”的概率；
(3) “收到b3的条件下推测输入a”的概率。 解：由信道矩阵的概念和概率论可得
(1) p(a3b2)?p(a3)p(b2a3)?0.04；
2(2) p(b4)??p(ai)p(b4ai)=0.19；
i?14(3) p(b3)?0.22,p(a2b3)? 3.12 3.13
略
p(a2)p(b3a2)?0.1364
p(b3)试证明：当信道每输入一个X值，相应有几个Y值输出，且不同的X值所对应的Y值不相互重合时，有H?Y??H?X??H?YX?。
证明：因为I(X;Y)?H(X)?H(X/Y)?H(Y)?H(Y/X)，并且由已知可得
10