、D1许允验信道试 、允许试验信道 均平真失信源分布p由(x、 假想信道转移的概p(y 平均率失真由源分信布 i)假、想道的信转移概率 jx/i和) 和失真 数d函(x 定决， 定，已失真函数 i ,yj)定，决p若x()和dixi,(yj)定已则，给可满 出定决和 已 定所有转的移概分率布p足 D ≤D的所 转有概率移分 布ji,它构成们一了信道集个 PD P合D= p (b j a/i ) : D ≤D称 D允为许验试道 信称为 许允试信道。
{验
i = 1,,2L , ;nj = ,1, L 2 m,}
41
信息率
真失数函R() D息率失信真函数由于信互息取决信源分布和于道转移信概率分， 布根据22 -于由信互息取于决信源分和布信道移概转率布分， 根 节据所述 ，定时，一是 关于(y 型凸p数函，节 述，当所(pix一)时，互定信 是关息 于/xj)i的 型凸U函数 一，定 时信息互是关I于型 函数凸 在存极值小。而在上述因允信许道 存在P小值。极因在而述允许上信 D道中可以寻找一种，道信 pji,使定给的信 i源)过经信道传此输后，信互 息Y;)达使给定的信 p(源 x经过信道传此后 互信息I(X输；达 经过 此道传输后信 ，到最小该最。小的信息就称为互息率失信真数R(D),函即 最到。小该小最的互信就息称信为率失真息数 ，函R (D ) = m in I ( ;XY )P
D15
对于离散记无信忆源 ，于对散无记离忆信，源(DR函数可写) 函数成可写成RD) = (mi∑∑ n(pai p)b( /ja i l)goP∈ D iP ji1 j==1
n
mpbj ( /i )a (pjb)
(pi),i=1a2,,,… 是信源符n概号率布分；是 信符号概源率布； 分= ,, , p(b,/aji)i,=,2,…,1,nj1,2=…,m ,转移概是率布分 ；, ,, ,, = , ,,是转 概移分率；布 (pj)b,j1=2,,,m 是…收接
端收符到概号率分布 。, ,,, 是接收端 收符到概号分布率。16
对给定于源，R(D)是信真保度 准下(则 D≤ D)容许压的最小 值缩也是，熵缩编压器码出可输 能到的最达熵率。低
1
例47-设2信的符号表为A=源设 信的源号表符 =为 a1{ ,2a ,…,a2 n},率概分为 ，布 ， (pai)=/2n1,=i,1,2,…2,失n真函数规为定 = ,, , ,1 i ≠j d ( a ,ia j )= 0 =i j即符号发不差生错时真为0,一旦失错出失真，1,为即符号 不生差错发时真失 ，一旦出错，失为真 为， 研究试一定在码编条下件息压缩的信程。度研 究一定编在码条件下信息压缩程度的。81
例4-2信由源率分概布可求信源熵为：得 1 1H (,. .. ,) =b( ln 2)bti/ 符 2n 号n2若对信源进不失行编真，码每符号个要l需b2n二个 制进元。 码假允许一定的失真定失真限，度为 D = 1/2 , 时信此 的源信息率减能少到多？每少个符的号均平码长能 压缩多少？
91