五、源代码
(1)验证固定信道,I(X;Y)是信源分布的上凸函数
syms w; x=[w,1-w];
p=[0.9 0.1 ;0.1 0.9];
pxy=[x(1,1)*p(1,:);x(1,2)*p(2,:)]; py=[x*p(:,1),x*p(:,2)];
px_y=[pxy(:,1)/py(1,1),pxy(:,2)/py(1,2)]; Ix_y=sum(sum(pxy.*log2(p./[py;py]))); ezplot(w,Ix_y,[0,1,0,1]); xlabel('变量w');
ylabel('平均互信息量I');
title('平均互信息量与w的关系'); grid on
(2)验证固定信源,I(X;Y)是信道传递概率的下凸函数
m=[1 0.5 0]; figure
hold on %设置为叠加绘图模式 for i=1:5 w=m(i); p=0:0.01:1;
I=(w.*(1-p)+(1-w).*p).*log2(1./(w.*(1-p)+(1-w).*p))+(w.*p+(1-w).*(1-p)).*log2(1./(w.*p+(1-w).*(1-p)))-(p.*log2(1./p)+(1-p).*(log2(1./(1-p))));
plot(p,I,'b');
title('曲线图');xlabel('信道转移概率p');ylabel('平均互信息量I'); end
(3)I(X;Y)的三维分布绘制
[p,q]=meshgrid(0.000001:0.01:1,0.000001:0.01:1); Hnoise=-p.*log2(p)-(1-p).*log2(1-p);%噪声熵 x=(1-p).*q+p.*(1-q);
I=-x.*log2(x)-(1-x).*log2(1-x)-Hnoise; mesh(p,q,I)
实验三:离散信道容量(1学时)
一、实验目的
1. 掌握离散信道容量的计算。 2. 理解离散信道容量的物理意义。
3. 练习应用matlab软件进行函数曲线的绘制,并从曲线上理解其物理意义。
二、实验原理
BSC(Binary Symmetric Channel)
二进制离散信道模型有一个允许输入值的集合X={0,1}和可能输出值的集合Y={0,1},以及一组表示输入和输出关系的条件概率(转移概率)组成。如果信道噪声和其他干扰导致传输的二进序列发生统计独立的差错,且条件概率对称,即
二元对称信道
?p(Y?0/X?1)?p(Y?1/X?0)?p??p(Y?1/X?1)?p(Y?0/X?0)?1?p
这种对称的二进制输入、二进制输出信道称做二元对称信道(或二进制对称信道,简称BSC信道),如下图所示:
信道容量公式:C?maxI(X,Y)
{p(x)}三、实验内容
BSC信道是DMC信道对称信道的特例,对于转移概率为P(0/1)=P(1/0)=p,P(0/0)=P(1/01)=1-p,求出其信道容量公式,并在matlab上绘制信道容量C与p的曲线。根据曲线说明其物理意义。
参考代码:>> p = linspace(0,1,50);
c = 1+p.*log2(p)+(1-p).*log2(1-p); plot(p,c) xlabel('p') ylabel('c')
四、实验结果
C=1+plogp+(1-p)log(1-p)
1、 无噪声干扰时(p=0),损失熵H(X/Y)=0,信道容量等于信源
发出的码元速率。
2、 P=1/2时,C=0,信道已无传输能力。
实验四:Huffman编码软件实现(4个学时)
一、实验目的
(1)进一步熟悉Huffman编码过程; (2)练习matlab中哈夫曼编码函数的调用; (3)掌握Matlab中Huffman编码的思想; (4)掌握平均码长,编码效率的计算。
二、实验原理
二元哈夫曼编码的具体步骤归纳如下:
1. 统计n个信源消息符号,得到n个不同概率的信息符号。 2. 将这n个信源信息符号按其概率大小依次排序:
p(x1) ≥ p(x2)≥ ?≥ p(xn)
3. 取两个概率最小的信息符号分别配以0和1两个码元,并将这两个概率
相加作为一个新的信息符号的概率,和未分配的信息符号构成新的信息符号序列。
4. 将剩余的信息符号,按概率大小重新进行排序。
5. 重复步骤3,将排序后的最后两个小概论相加,相加和与其他概率再排
序。
6. 如此反复重复n-2次,最后只剩下两个概率。
7. 从最后一级开始,向前返回得到各个信源符号所对应的码元序列,即相
应的码字,构成霍夫曼编码字。编码结束。
编码之后,哈夫曼编码的平均码长为:
K??p(x)Kii?1ni
哈夫曼编码的效率为:
??
信源熵H(x)=平均码长K
三、实验内容
(一)直接调用matlab哈夫曼编码函数进行编码,与人工编码结果做比较。 huffmandict函数: 为已知概率分布的信源模型生成哈夫曼编解码索引表。 调用方法如下:
[dict ,L] = huffmandict (symbols, p)
调用Huffmandict函数,使用数组s(编码符号)及其概率数组P进行Huffman编码,编码后产生一个编码词典dict,以及平均码长L。 求出熵H,并计算其效率H/L
基本参考:
symbols = [1: ];
p = [ ];
[dict,L] = huffmandict(symbols,p)
code1= dict{1,2}
.
. dict{ ,2} (二)根据编码思想编写
要求(1)输入:信源的概率分布P;
(2)输出:每个信源符号对应的Huffman编码的码字。 (3)计算平均码长 、信源熵 及编码效率 并对:
输入的概率数组中有小于0的值 输入的概率数组总和大于1