PE?1?Pc?1?{P(x1)P(y1|x1)?P(x1)P(y2|x1)?P(x3)P(y3|x3)}?1?{1/2?1/2?1/2?1/3?1/4?1/2}?1?13/24?11/24LM
15.10 (1)PE?M1(2)PE?M1(3)PE?M??P(yj?1i?1i?*LMj|xi)?1/2(P(y1|x2)?P(y2|x1))?p
??P(yj?1i?1i?*LMj|xi)?1/2P(y1|x2)?p/2
??P(yj?1i?1i?*j|xi)?1/2(P(y2|x2)?P(y2|x1))?p
5.11 ??
5.12 (1)对信源四个消息进行编码,选择码长n=4,这组码为 C : {(x1,x2,1/2,1/2)} xi?0或1 i=(1,2) 编码后的信息传输率 R?log41? 比特/符号 42 (2)设接收序列??(y1y2y3y4) yi?{0,1}(i?1,2,3,4)根据信道的传输特性,输入序列
?共有16个,正好分成4个互不相交的子集,每个码字只传输到其中对应的一个子集:
?1?(0 0 1/2 1/2)?(0 0 y3 y4) ?2?(0 1 1/2 1/2)?(0 1 y3 y4) ?3?(1 0 1/2 1/2)?(1 0 y3 y4) ?4?(1 1 1/2 1/2)?(1 1 y3 y4) 所以根据选择的译码规则
f(y1y2y3y4)=(y1y21/2 1/2)
正好将接收序列译成所发送的码字,可计算每个码字引起的错误概率 Pe(i)?[所以有PE??P(?|?) F(?)??]?0
iiY?P(?)PiCie?0。
513(1) P(x|y)?P(xy),又P(xy)?P(x)P(y|x),P(y)??P(xy),根据题目所给的数据得 P(y)XP(y)=[7/12 5/12]
P(x|y)= 6/7 3/5
1/7 2/5 又H(X)???P(x)logP(x)?0.811 比特/符号
XH(X|Y)????P(x)P(x|y)logP(x|y)?XY [?3/4?2/3log2/3?1/4?1/3log1/3?3/4?1/3log1/3?1/4?2/3log2/3]
??2/3log2/3?1/3log1/3?0.39?0.528?0.918 所以 I(X;Y)?H(X)?H(X|Y)?0.062 比特/符号 (2) 此信道为二元对称信道,所以信道容量
C?1?H(p)?1?H(2/3)?0.082 比特/符号
根据二元对称信道的性质可知,输入符号为等概分布,即P(0)=P(1)=1/2时信道的信息传输率才能达到这个信道的容量值。 5.14 (1)由P(y)??P(xy),得
X3P(y)=[1/2 1/4+1/4a 1/4-1/4a]
所以
H(Y)???P(yi)logP(yi)?1/2?(1/4?1/4a)log(1/4?1/4a)?i?1
(1/4?1/4a)log(1/4?1/4a),H(Y|X)????P(x)P(y|x)logP(y|x)?a(1/2log2?1/2log2)XY(2)?(1?a)(1/2log2?1/4log4)?(1?a)1/4log4
?3/2?1/2a比特/符号(3) C?H(Y)?H(Y|X)??1?1/2a?1/4(1?a)log(1/4?1/4a)?1/4(1?a)log(1/4?1/4a)
6.1 (1) 收到传真的概率为8/(4+8+3+1)*2/(7+1+2)=1/10 I=-log1/10=3.3 比特
(2)可采取压缩编码,安最佳编码原则编码等措施
(3)编码时码长尽可能长,这样根据香浓第二定理,总存在一种编码,只要码长足够长,总存在一种编码,是错误概率任意小。最好结合实际分析如何克服随机,突发干扰。 (4)C=Blog(1+S/N)=2.048log(1+10率为8.34Mbps。
6.2 (1)h(x)??p(x)logp(x)dx?1/2log2(2?e?) 比特/样值
(2)对样值进行256级量化,当其服从均匀分布时,信源有最大熵,H=log256=8比特/符号 (3)fs?120KHz?12KHz?108KHz B?8fs/2?432KHz
所以 C?Blog2(1?S/N)?4.31M。
1.2)=8.34Mbps,不失真条件下,该信道允许最大信息传输速
?2(4)S/N=36dB, C=5.17Mbps
所以Sc?(5.17?4.31)/4.31?20%。 6.3 (1) h(x)?1/2log2(2?e?) 比特/样值 (2) 冗余度=
28?8K?8.55K?100%?86.6%
8?8K (3)C?Blog2(1?S/N) 其中C=9.6K B=1.2288*2Mbps, 得S/N=-25.7dB
(4) C?Blog2(1?S/N)=2.4576log2(1?106.4 由于P(x)=1/2=
0.3)?3.88Mbps
1,所以电压为1V~(-1)V上的均匀分布,
1?(?1) 又 n?2?0T',所以 10=2?0,?0=5
ht=2?0*(1/2)lb(4Ps)= ?0lb(4*1)=2?0=10 bit/s 6.5
hp(x)???p(x)lnp(x)dx?11???(1?|x|)ln(1?|x|)dx
?1??2?(1?x)ln(1?x)dx?11又n?2?0T',所以 10=2?0,?0=5
所以ht?2?0hp(x)??20(1?x)ln(1?x)dx
0?16.6
h(x)???p(x)lnp(x)dx02???kxlnkx()dx02
6.7 C?Blog2(1?S/N)?Blog2(1?10)?30?30?10?log210?B*9.97
所以 B=3?10Hz.
6.8 (1)C?log264?log216?5?10?25?6?10bit
(2)又C?Blog2(1?S/N) 而 10log10SN58367?30dB,
所以 S/N=10,
所以C?Blog2(1?10)=9.97B B=6?10Hz 6.9 C?Blog2(1?S/N)
所以 5.6?4log2(1??5733PP)?4(1?) Nn0B所以 P=3.2?10W. 6.10 C?Blog2(1?S/N)=
Sn0BSlog2(1?)
n0Sn0B所以limC?lim[B???B???n0BSSlog2(1?)]() (2) Sn0Bn0利用关系式 lim1/xlog2(1?x)?log2e?1.44,
x??0所以式(2)变为limC?B???SSlog2e?1.44,为一常量。 n0n06.11 H(X)?????/2?/2AcosxlnAcosxdx
=?AlnA???/2?/2cosxdx???/2??/2Acosxlncosxdx
再由逐步分布积分得 H(X)=-2AlnA-2Aln2+2A. 因为
???/2?/2p(x)dx?1,所以2A=1 A=1/2
a 所以 H(X)=1 奈特/自由度 6.12 (1)H(X)?? =??0ap(x)logp(x)dx
bxlogbxdx
22?0 =-logb
?a0p(x)dx-2b
?a0x2logxdx
2ba32ba3loge?loga?logb =93 因为
?a0p(x)dx=1,所以b=1/83。 a3 故H(X)=2/3loge+loga-log3
dX?1 , 所以 H(Y)=2/3loge+loga-log3 dYdX(3) 若Y=2X ,则?1/2,所以H(Y)=H(X)-log1/2=2/3loge+loga-log3/2。
dY(2) 若Y=X+A,则
6.13 C?Blog2(1?S/n0B)?6.5?10log2(1?45.5/6.5)?1.95?10bit/s 6.14 C?Blog2(1?S/N)
(1)C?10?log2(1?10)?3.46?10bit/s
(2)10?log2(1?10)?Blog2(1?5) 所以 B=1.34?10Hz (3) 10?log2(1?10)?0.5?10log2(1?S/N) 所以 S/N=120
66666676第七章 习题
1. 设某二址接入信道,输入X1, X2和输出Y的条件概率为P(Y/X1X2 ),其值是:
p (0/00) = 1– ? p (0/01) =1/2 p (0/10) =1/2 p (0/11) =? p (1/00) =? p (1/01) =1/2 p (1/10) =1/2 p (1/11)=1–? 其中? <1/2,试求其容量界限。
2. 设某广播信道,其输入X和输出Y1、Y2之间的条件概率P(Y1/X)和P(Y2/X)的具体值是:
p(Y1/X): p(0/0)?1??1p(Y2/X): p(0/0)?1??2p(1/0)??1p(1/0)??2p(0/1)??1p(0/1)??2p(1/1)?1??1p(1/1)?1??2其中?
1
<1/2, ? 2 <1/2,试求其容量界限。 3. 计算图7.12中二址接入信道的容量。
X1X200011Y0121101111图7.16
第8章 习题
1. 设输入符号表与输出符号表为X=Y={0, 1, 2, 3},且输入信号的分布为
p(X = i) = 1/4, i = 0, 1, 2, 3
设失真矩阵为
?0?1d???1??1?求Dmax和Dmin及R(Dmax)。
101111011??1? 1??0??