信道编码定理说明：同无失真信源编码定理类似，信道编码定理也是一个理想编码的存在性定理。它指出信道容量是一个临界值，只要信息传输率不超过这个临界值，信道就可几乎无失真地把信息传送过去，否则就会产生失真。 信道编码的目的就是为了提高信息的可靠性。
第四章 信息率失真函数
一、失真度定义
1. 设离散无记忆信源为
X x1,
p(x) p(x),
i 1
x2,
,
p(x2), ,
xn
p(xn)
信源符号通过信道传送到接收端Y Y y1, p(y)
j p(y1),
y2, ,
p(y2), ,
ym
p(ym)
信道的传递概率矩阵 p(y1/x1) p(y/x)
p(Y/X) 12
p(y1/xn)
p(y2/x1) p(ym/x1) p(y2/x2) p(ym/x2)
p(y2/xn) p(ym/xn)
对每一对 (xi,yj)，指定一个非负函数
d(xi,yj)≥0 i=1,2,…,n j=1,2,…,m
称 d(xi,yj)为单个符号的失真度/失真函数。表示信源发出一个符号 xi，在接收端再现 yj 所引起的误差或失真。 2. 常用的失真矩阵
0i j
（1）汉明失真函数：d(ai,bj)
1i j
（2）平方误差失真函数：d(ai,bj) (bj ai)
2