率失真函数PPT课件

《率失真函数PPT课件》由会员分享，可在线阅读，更多相关《率失真函数PPT课件（32页珍藏版）》请在装配图网上搜索。

1、第第9章章 率失真函数率失真函数普通概念与定义普通概念与定义 不等长编码平均长度不超越不等长编码平均长度不超越HL(U)/logD+1/LHL(U)/logD+1/L可可以无失真以无失真 等长编码等长编码HL(U)+e/logDHL(U)+e/logD失真不会超越给定值失真不会超越给定值 传输信息允许失真，信息率可以下降传输信息允许失真，信息率可以下降1u2u3u4u5u)(iuP0.250.250.250.150.10不等长编码不等长编码00010110110111等长编码等长编码000001010011100允许失真允许失真00011011112.25bit3bit2bit信道失真信道失真

2、 d(u,v)d(u,v)是是U U和和V V的非负函数，的非负函数，U,VU,V为离散变量为离散变量 U UV=a1,a2,akV=a1,a2,ak2)(),(|00),(vuvudjidjiajidavauddijijjiijP(v|u)UV平均失真平均失真LllLlllLLLlllLuvUVijijjiidLvudELdEdvudLddudvvuduvPuQddPQvudEd111|1),(1),(),(1),(),()|()(),(vuvu率失真函数率失真函数PDPD是满足是满足 一切一切PjiPji的集合的集合Dd);(min)(VUIDRDjiPP 失真不超越失真不超越D D 时传

3、时传输所需的最小互信输所需的最小互信息量息量失真率函数失真率函数DRDRDD min)(给定信息率，找给定信息率，找最小的失真的编最小的失真的编码方式码方式率失真函数的根本性质率失真函数的根本性质)()(lim)()(00UHDRUHDRD率失真函数定义域率失真函数定义域 不允许最小失真小于某一值，不允许最小失真小于某一值，DDminDDmin DmaxDmax是使是使R(D)=0R(D)=0的的DD的最小值的最小值 令令PDPD是使是使I(Pji)I(Pji)0 0的全体转移概率的集的全体转移概率的集合合),(minmaxvudEDDjiPP 率失真函数的定义域率失真函数的定义域 I(Pji

4、)=0的充要条件是的充要条件是U和和V统计独立统计独立uVvuvUVvuduQDvuduQvwDvuvP),()(min),()()(min)()|(maxmax|率失真函数的定义域率失真函数的定义域 例例 Q(0)=Q(1)=0.50110E110.20.2失真定义失真定义V=0,1,D=0.5*0.2+0.5*0.2=0.2V=E,D=0.5Dmax=0.2R(D)性质性质R(D)R(D)是下凸函数是下凸函数max2minmax1min,DDDDDD1012()()(1)()R DR DR D12(1)DDD)()(min)(111PIPIDRDPP)()(min)(222PIPIDRDP

5、P使使)(PI到达最小，且到达最小，且2DD使使)(PI到达最小，且到达最小，且1DD R(D)性质性质21)1(PPPDPP 212121)1(),()|()()1(),()|()(),()|()1()|()(),()|()()(DDvuduvPuQvuduvPuQvuduvPuvPuQvuduvPuQPduvuvuvuv由于由于1212()min()()()(1)()()(1)()DP PR DI PI PI PI PR DR DI(P)I(P)为凸下函数为凸下函数R(D)性质性质R(D)R(D)是是DD的延续单调减函数的延续单调减函数21DD 减函数减函数21DDPP)()(21DRDR

6、单调减函数单调减函数21DD)()(21DRDRmax210DDD11()()R DI P22()()R DI Pmax0()()R DI PR(D)性质性质2max11)1(DDDDD足够小足够小10(1)PPPDPP DDDPdPdPdmax101)1()()()1()()()()()()1()(min)(1101DRPIPIPIPIDRDPP=0R(D)性质性质有失真时的逆信源编码定理有失真时的逆信源编码定理 当速率小于当速率小于R(D)R(D)时，不论采取什么方式，时，不论采取什么方式，平均失真必大于平均失真必大于D.D.uDuCduQCd)|()()(设假假设存在一种编码方式，当设假

7、假设存在一种编码方式，当 时时()R R D信源输出信源输出u u的的平均失真平均失真othersvuduCdCvuvPPUV0),()|(,1)|(|0有失真时的逆信源编码定理有失真时的逆信源编码定理DuCduQvuduvPuQPduuvUV)|()(),()|()()(|0DPP 0)|()()(0UVHVHPI0)|(UVHRNMVH/)(log)(RPI)(00()()RR DI P而由假设而由假设DMS R(D)DMS R(D)的计算的计算|(|)0V UjiPvu1)|(1|JjijUVuvPDvuduvPuQPDKiJjjiijUVi11|),()|()()(对一切对一切uiii

8、jUViijUVjijUViuvPuQuvPuvPuQPI|)|()()|(ln)|()()(使使关于关于P(v|u)最小最小拉格朗日函数拉格朗日函数ijjiijUViijjUVivuduvPuQsuvPuPIsPJ),()|()()|()()();(|Ki,2,1JjKiuvPspJijUV,2,1,2,10)|();(|JjKiuvudusQvuvPuQuvPspJijiijijUViijUV,2,1,2,10)(),()()()|(log)()|();(|DMS R(D)DMS R(D)的计算的计算)(/)()(iiuQuieuUuiJjKiuuQvudusQvuvPuQiijiijij

9、UVi,2,1,2,10)(ln)(),()()()|(log)(|),(|)()()|(jivusdijijUVeuvuvP上式是在假设一切上式是在假设一切 大于大于0的情况下求得的的情况下求得的)(jvDMS R(D)的计算的计算Uuevuivusdjjiji1),()()(ijjivusdjiisvudevuQuDji),()()()(),(iiissuuQsDDR)(ln)()(S的几何含义的几何含义s是点是点 处率失真函数的斜率：处率失真函数的斜率：sDD sdDDdRDRsDDs|)()(iiidDuduRdDdssRDRdDDdRDR)()()()(dDdsdsuduuQDsdD

10、uduuQdDdsDsDRiiiiiiii)()()()()()()(1)()(),(ivusdiijieuQu0)()(),()(),(ivusdiijiijieuQdsudvudujivusdiijjivusdjiiijjijiedsuduQvevuduQuv0)()()(),()()()(),(),(sDiiiidsuduuQ)()()(DMS DMS 求求R(D)R(D)步骤步骤(,)1()()ijsd u viiiQ uu ej=1,2,3,J 解出解出()iu()jv2.由由解出解出Uuevuivusdjjiji1),()()(),(|)()()|(jivusdijijUVeuvu

11、vP1 1ijjivusdjiisvudevuQuDji),()()()(),(3.由由解出解出SiiissuuQsDDR)(ln)()(4.代入代入DMS DMS 求求R(D)R(D)步骤步骤例例pqpq-1(1),(0)vuvuvud0),(pDmaxsepp)1)(1()0(1)1)(1()0(1ppes)1(1)0(sep)1)(1(1)1(sepDMS DMS 求求R(D)R(D)步骤步骤)1()0(1)1(sese)1()0(1)0(sseepp1)1()0(1)(1)1ssppeesseesD1)(/1/ln21)(DDDs)1ln()()()(sepHssDsR)/1/1ln(

12、)(/1/ln)(DDpHDDDDR()DH pH延续信源延续信源)(inf)(PIDRDPPdudvvuvPuvPuQPIUVUV)()|(ln)|()()(|DdudvvuduvPuQPDuvPPUVUVD),()|()()(:)|(|延续信源延续信源duvuduQDv),(inf)(minduvuduQDv),()(infmax定理定理9.3.3 0)()()()|(),(vevuuvPvusd0)(1)()(),(veuQuvusd若1(,)()()sd u vuv edv dudvvudevuQuDvusd),()()()(),(duuuQsDDR)(ln)()(sdDDdRDRsDDs|)()(例例9.3.2 信源输出是平均值为零，方差为 的独立高斯变量 2)2exp(21)(22uuQ2)(),(vuvudmin0D2maxD例例9.3.2dueuQuvus2)()()(1dueuQuuvvus2)()()(dueuQuusvvus2)(22)()(21dudvevuQuvuDvus2)(2)()()()(sD21例例9.3.2sdsDdR21)(KDKsDRs21ln21)ln(21)(221ln21KDDR2ln21)(