第三章习题课

《第三章习题课》由会员分享，可在线阅读，更多相关《第三章习题课（21页珍藏版）》请在装配图网上搜索。

1、第三章第三章 信道容量信道容量2022-11-211第三章第三章 信道容量信道容量2022-11-212)/();(maxmax)()(信道符号比特YXIRCiixpxp)/();(max)(1秒比特YXICixptt第三章总结第三章第三章 信道容量信道容量2022-11-213第三章第三章 信道容量信道容量2022-11-21412()0.60.4XxxP x第三章第三章 信道容量信道容量2022-11-215解答：121222221121122222(1)()log()log 0.60.737()log()log 0.41.32(/)5/6,(/)1/6,(/)3/4,(/)1/4(/)(

2、/)(;)loglog()()ijjiijijI xp xbitI xp xitp yxp yxp yxp yxp xyp yxI x yp xp y 可见，概率越小的事件含有的自信息越大。(2)由互信息公式：计53164112126411212221222()()()(/)0.60.40.8()0.60.40.2;()()1255(;)log0.059;(;)log0.26324615(;)log0.093;(;)l16jijiXp yp yp x p yxp yp yp yI x ybit I x ybitI xybit I xy 算互信息一般取第二个等式，必须先计算出满足归一性即+可算得

3、：25og0.3224bit第三章第三章 信道容量信道容量2022-11-216解答：222211211222111(3)()0.6log 0.60.4log 0.40.971/()0.8log 0.80.2log 0.20.722/(/)5/6,(/)1/6,(/)3/4,(/)1/4()(/)(/)()(/)5/8,(ijiijjH Xbit symbolH Ybit symbolp yxp yxp yxp yxp x p yxp xyp yp xyp x (4)由公式：可得：221222221122211/)1/2,(/)3/8,(/)1/2(/)()(/)log(/)0.9635/(/

4、)()(/)log(/)0.7145/ijiijijijijiijyp xyp xyH X Yp x p yxp xybit symbolH YXp x p yxp yxbit symbol 信道疑义度：噪声熵：(5)接收到Y后获得的平均互信息I(X;Y)I(X;Y)=H(X)-H(X/Y)=H(Y)-H(Y/X)0.0075bit/symbol第三章第三章 信道容量信道容量2022-11-21721331233第三章第三章 信道容量信道容量2022-11-218解答：(1)已知二元对称信道的传递矩阵和输入信源的概率分布，可求出输出Y的概率分布和后验概率p(y=0)=7/12;p(y=1)=5

5、/12;p(x=0/y=0)=6/7;p(x=1/y=0)=1/7p(x=0/y=1)=3/5;p(x=1/y=1)=2/5进一步可算得：H(X)0.811bit/symbolH(Y/X)0.918bit/symbol;H(X/Y)0.749bit/symbol231()1()0.082CH pH 因此，I(X;Y)=H(X)-H(X/Y)0.062bit/symbol(2)此信道为二元对称信道，所以信道容量为bit/symbol当输入符号为等概率分布时信道的信息传输率才能达到该值。第三章第三章 信道容量信道容量2022-11-219第三章第三章 信道容量信道容量2022-11-21100.9

6、80.020.020.98P第三章第三章 信道容量信道容量2022-11-2111第三章第三章 信道容量信道容量2022-11-2112 （a）(b)第三章第三章 信道容量信道容量2022-11-21131112361111363611162311116363111362,abPP111112363611122236log 4(,)0.0817/log 3(,)0.126/CHbit symbolCHbit symbol第三章第三章 信道容量信道容量2022-11-2114第三章第三章 信道容量信道容量2022-11-21151000101P3321112322232212322(1)(/)(

7、/)log(/),1,2,30(1)(1)log(1)log(1)log(1)log(1)0(1)log(1)logjjijjijijjp yxp yxp yxi 求解方程得：第三章第三章 信道容量信道容量2022-11-2116121211121321131123log2log 12(1)(3)()1()212(1)(1)()12(1)()()(4)()1()12(1)()()(/)(1)()()1jjjCijijiiCp yp yp yp yp yp xp xp yp x p yxp xp x(2)求C求求根据12(1)1000101P第三章第三章 信道容量信道容量2022-11-2117

8、21231230log 3,()()()1/31/21,()1/2,()()1/4Cp xp xp xCp xp xp x当 时，此信道为一一对应信道，即当 时第三章第三章 信道容量信道容量2022-11-2118111122221111222212111122221111222200000000000000000000000000000000PP第三章第三章 信道容量信道容量2022-11-211911222211122222log 4(00)1/()log 42/log 8(000000)2/(),Hbit symbolH Xbit symbolCCHbit symbolH XC1解答：(

9、1)由信道1的信道矩阵可知为对称信道故C有熵损失，有噪声。(2)为对称信道，输入为等概率分布时达到信道容量无噪声第三章第三章 信道容量信道容量2022-11-2120第三章第三章 信道容量信道容量2022-11-212133311884443331144444333114444433318841()(,)(,0,)1.560.810.750(1)0(1)(,)(HHHHH 123解答：(1)X,Y之间为强对称信道，C(2)Y,Z之间为准对称信道，C(3)X,Z之间的信道矩阵为1-1-也属于准对称信道，当输入为等概率分布时达到CC314443333224444(1),)1.06(1)log(1)log