信息论与编码问题详解

《信息论与编码问题详解》由会员分享，可在线阅读，更多相关《信息论与编码问题详解（52页珍藏版）》请在装配图网上搜索。

1、word信息论与编码第二版雪虹答案第二章，转移概率为：，画出状态图并求出各符号稳态概率。解：状态图如下状态转移矩阵为：设状态u1，u2，u3稳定后的概率分别为W1，W2、W3由得计算可得2.2 由符号集0，1组成的二阶马尔可夫链，其转移概率为：=0.8，=0.2，=0.2，=0.8，=0.5，=0.5，=0.5，=0.5。画出状态图，并计算各状态的稳态概率。解：于是可以列出转移概率矩阵：状态图为： 设各状态00，01，10，11的稳态分布概率为W1,W2,W3,W4 有 得 计算得到2.3 同时掷出两个正常的骰子，也就是各面呈现的概率都为1/6，求：(1) “3和5同时出现这事件的自信息；(2

2、) “两个1同时出现这事件的自信息；(3) 两个点数的各种组合无序对的熵和平均信息量；(4) 两个点数之和即2, 3, , 12构成的子集的熵；(5) 两个点数中至少有一个是1的自信息量。解：(1)(2)(3)两个点数的排列如下：111213141516212223242526313233343536414243444546515253545556616263646566共有21种组合：其中11，22，33，44，55，66的概率是 其他15个组合的概率是(4)参考上面的两个点数的排列，可以得出两个点数求和的概率分布如下：(5)2-42.5 居住某地区的女孩子有25%是大学生，在女大学生中有7

3、5%是身高160厘米以上的，而女孩子中身高160厘米以上的占总数的一半。假设我们得知“身高160厘米以上的某女孩是大学生的消息，问获得多少信息量？解：设随机变量X代表女孩子学历Xx1是大学生x2不是大学生P(X)设随机变量Y代表女孩子身高Yy1身高160cmy2身高160cmP(Y)：在女大学生中有75%是身高160厘米以上的即：求：身高160厘米以上的某女孩是大学生的信息量即：2.6 掷两颗骰子，当其向上的面的小圆点之和是3时，该消息包含的信息量是多少？当小圆点之和是7时，该消息所包含的信息量又是多少？解：1因圆点之和为3的概率该消息自信息量2因圆点之和为7的概率该消息自信息量2.7 设有一

4、离散无记忆信源，其概率空间为 1求每个符号的自信息量 2信源发出一消息符号序列为202 120 130 213 001 203 210 110 321 010 021 032 011 223 210，求该序列的自信息量和平均每个符号携带的信息量解：同理可以求得因为信源无记忆，所以此消息序列的信息量就等于该序列中各个符号的信息量之和就有：平均每个符号携带的信息量为bit/符号2.8 试问四进制、八进制脉冲所含信息量是二进制脉冲的多少倍？解：四进制脉冲可以表示4个不同的消息，例如：0, 1, 2, 3 八进制脉冲可以表示8个不同的消息，例如：0, 1, 2, 3, 4, 5, 6, 7二进制脉冲可

5、以表示2个不同的消息，例如：0, 1假设每个消息的发出都是等概率的，如此：四进制脉冲的平均信息量 八进制脉冲的平均信息量二进制脉冲的平均信息量所以：四进制、八进制脉冲所含信息量分别是二进制脉冲信息量的2倍和3倍。2-9“ 用三个脉冲 “用一个脉冲(1) I()= I() (2) H= 2-10 (2) P(黑/黑)= P(白/黑)= H(Y/黑)= (3) P(黑/白)= P(白/白)= H(Y/白)= (4) P(黑)=P(白)= H(Y)= 2.11 有一个可以旋转的圆盘，盘面上被均匀的分成38份，用1，38的数字标示，其中有两份涂绿色，18份涂红色，18份涂黑色，圆盘停转后，盘面上的指针

6、指向某一数字和颜色。1如果仅对颜色感兴趣，如此计算平均不确定度2如果仅对颜色和数字感兴趣，如此计算平均不确定度3如果颜色时，如此计算条件熵解：令X表示指针指向某一数字，如此X=1,2,.,38 Y表示指针指向某一种颜色，如此Y=l绿色，红色，黑色 Y是X的函数，由题意可知1bit/符号2bit/符号3bit/符号2.12 两个实验X和Y，X=x1 x2 x3,Y=y1 y2 y3,l联合概率为（1） 如果有人告诉你X和Y的实验结果，你得到的平均信息量是多少？（2） 如果有人告诉你Y的实验结果，你得到的平均信息量是多少？（3） 在Y实验结果的情况下，告诉你X的实验结果，你得到的平均信息量是多少？

7、解：联合概率为 YXy1y2y3 x17/241/240 x21/241/41/24 x301/247/24X概率分布Xx1x2x3P8/248/248/24bit/符号Yy1y2y3P8/248/248/242.13 有两个二元随机变量X和Y，它们的联合概率为Y Xx1=0x2=1y1=01/83/8y2=13/81/8并定义另一随机变量Z = XY一般乘积，试计算：(1) H(X), H(Y), H(Z), H(XZ), H(YZ)和H(XYZ)；(2) H(X/Y), H(Y/X), H(X/Z), H(Z/X), H(Y/Z), H(Z/Y), H(X/YZ), H(Y/XZ)和H(Z

8、/XY)；(3) I(X;Y), I(X;Z), I(Y;Z), I(X;Y/Z), I(Y;Z/X)和I(X;Z/Y)。解：(1)Z = XY的概率分布如下：(2)(3)2-14 (1) P(ij)= P(i/j)=(2) 方法1: = 方法2: 2-15P(j/i)= 2.16 黑白 机的消息元只有黑色和白色两种，即X=黑，白，一般气象图上，黑色的出现概率p(黑)0.3，白色出现的概率p(白)0.7。1假设黑白消息视为前后无关，求信源熵H(X)，并画出该信源的香农线图2实际上各个元素之间是有关联的，其转移概率为：P(白|白)0.9143，P(黑|白)0.0857，P(白|黑)0.2，P(黑

9、|黑)0.8，求这个一阶马尔可夫信源的信源熵，并画出该信源的香农线图。3比拟两种信源熵的大小，并说明原因。解：1bit/符号P(黑|白)=P(黑)P(白|白)P(白) P(黑|黑)P(黑)P(白|黑)P(白)间变化2.17 每帧电视图像可以认为是由3105个像素组成的，所有像素均是独立变化，且每像素又取128个不同的亮度电平，并设亮度电平是等概出现，问每帧图像含有多少信息量？假设有一个广播员，在约10000个汉字中选出1000个汉字来口述此电视图像，试问广播员描述此图像所广播的信息量是多少假设汉字字汇是等概率分布，并彼此无依赖？假设要恰当的描述此图像，广播员在口述中至少需要多少汉字？解：1)2

10、)3)2.20 给定语音信号样值X的概率密度为,求Hc(X)，并证明它小于同样方差的正态变量的连续熵。解2.24 连续随机变量X和Y的联合概率密度为：，求H(X), H(Y), H(XYZ)和I(X;Y)。提示：解：2.25 某一无记忆信源的符号集为0, 1，P(0) = 1/4，P(1) = 3/4。(1) 求符号的平均熵；(2) 有100个符号构成的序列，求某一特定序列例如有m个“0和100 - m个“1的自信息量的表达式；(3) 计算(2)中序列的熵。解：(1)(2) (3) 2-26 P(i)= P(ij)= H(IJ)= 2.29 有一个一阶平稳马尔可夫链,各Xr取值于集合,起始概率

11、P(Xr)为，转移概率如如下图所示 j i1231231/22/32/31/401/31/41/30(1) 求的联合熵和平均符号熵(2) 求这个链的极限平均符号熵(3) 求和它们说对应的冗余度解：1符号X1，X2的联合概率分布为12311/41/81/821/601/1231/61/12012314/245/245/24X2的概率分布为那么X2X3的联合概率分布为12317/247/487/4825/3605/1235/365/120那么/符号所以平均符号熵符号2设a1,a2,a3稳定后的概率分布分别为W1,W2,W3,转移概率距阵为由 得到 计算得到又满足不可约性和非周期性/符号(3)/符号

12、 /符号 /符号2-30 (1) 求平稳概率 P(j/i)=解方程组 得到 (2) 信源熵为: 2-31 P(j/i)= 解方程组 得到W1= , W2= , W3= 2.32 一阶马尔可夫信源的状态图如图213所示，信源X的符号集为0，1，2。1求信源平稳后的概率分布P(0),P(1),P(2)2求此信源的熵3近似认为此信源为无记忆时，符号的概率分布为平稳分布。求近似信源的熵H(X)并与进展比拟解:根据香农线图,列出转移概率距阵令状态0,1,2平稳后的概率分布分别为W1,W2,W3 得到 计算得到由齐次遍历可得符号 由最大熵定理可知存在极大值或者也可以通过下面的方法得出存在极大值: 又所以当

13、p=2/3时0p2/3时2/3p所以第二个实验比第一个实验好P(y1y2x)0001101101/40001001/40201/401/42因为Y1和Y2 相互独立，所以P(y1y2|x)000110110100010010201/201/2y1y200011011p1/41/41/41/4bit/符号由此可见，做两个实验比单独做Y1可多得1bit的关于X的信息量，比单独做Y2多得0.5bit的关于X的信息量。3表示在已做Y2的情况下，再做Y1而多得到的关于X的信息量同理可得=1.5-0.5=1bit/符号表示在已做Y1的情况下，再做Y2而多得到的关于X的信息量欢迎下载！第三章3.1 设二元对

14、称信道的传递矩阵为(1) 假设P(0) = 3/4, P(1) = 1/4，求H(X), H(X/Y), H(Y/X)和I(X;Y)；(2) 求该信道的信道容量与其达到信道容量时的输入概率分布；解：1)2)其最优输入分布为3-2某信源发送端有2个符号，i1，2；，每秒发出一个符号。承受端有3种符号，j1，2，3，转移概率矩阵为。（1） 计算承受端的平均不确定度；（2） 计算由于噪声产生的不确定度；（3） 计算信道容量。解：联合概率XY0如此Y的概率分布为Y1取2为底2取2为底取e为底= 03.3 在有扰离散信道上传输符号0和1，在传输过程中每100个符号发生一个错误，P(0)=P(1)=1/2

15、，信源每秒发出1000个符号，求此信道的信道容量。解：由题意可知该二元信道的转移概率矩阵为：为一个BSC信道所以由BSC信道的信道容量计算公式得到：=0和1/2时的信道容量C的大小。X0 Y01112211解: 信道矩阵P=,此信道为非奇异矩阵,又r=s,可利用方程组求解= (i=1,2,3)解得所以C=log=log20+22(1-)log(1-)+=log1+21-H()=log1+2而 (j=1,2,3)得所以 P(a1)=P(b1)=当=0时,此信道为一一对应信道,得 C=log3, 当=1/2时,得 C=log2, ,3.5 求如下二个信道的信道容量，并加以比拟1 2其中p+=1解：

16、1此信道是准对称信道，信道矩阵中Y可划分成三个互不相交的子集 由于集列所组成的矩阵,而这两个子矩阵满足对称性，因此可直接利用准对称信道的信道容量公式进展计算。C1=logr-H(p1 p2 p3)-其中r=2,N1=M1=1-2 N2= M2=4所以C1=log2-H(,p-,2)-(1-2)log(1-2)-2log4=log2+()log()+(p-)log(p-)+2log2-(1-2)log(1-2)-2log4=log2-2log2-(1-2)log(1-2)+()log()+(p-)log(p-)=(1-2)log2/(1-2)+()log()+(p-)log(p-)输入等概率分布

17、时达到信道容量。2此信道也是准对称信道，也可采用上述两种方法之一来进展计算。先采用准对称信道的信道容量公式进展计算，此信道矩阵中Y可划分成两个互不相交的子集，由子集列所组成的矩阵为，这两矩阵为对称矩阵 其中r=2,N1=M1=1-2 N2=M2=2，所以C=logr-H(-,p-,2,0)-=log2+(-)log(-)+(p-)log(p-)+2log2-(1-2)log(1-2)-2log2=log2-(1-2)log(1-2)+(-)log(-)+(p-)log(p-)=(1-2)log2/(1-2)+2log2+(-)log(-)+(p-)log(p-)=C1+2log2输入等概率分布

18、Pa1=Pa2=1/2时达到此信道容量。比拟此两信道容量，可得C2=C1+2log23-6 设有扰离散信道的传输情况分别如图317所示。求出该信道的信道容量。解：对称信道取2为底 bit/符号3-7 (1) 条件概率 ，联合概率，后验概率 ， ，2 H(Y/X)= 3当接收为y2，发为x1时正确，如果发的是x1和x3为错误，各自的概率为：P(x1/y2)=，P(x2/y2)=，P(x3/y2)=其中错误概率为：Pe=P(x1/y2)+P(x3/y2)=4平均错误概率为6此信道不好 原因是信源等概率分布，从转移信道来看 正确发送的概率x1-y1 x2-y x3-y3的概率0 完全失真7H(X/Y

19、)=3. 8 设加性高斯白噪声信道中，信道带宽3kHz，又设(信号功率+噪声功率)/噪声功率=10dB。试计算该信道的最大信息传输速率Ct。解：106个像素，为了能很好地重现图像，能分16个亮度电平，并假设亮度电平等概分布。试计算每分钟传送一帧图片所需信道的带宽信噪功率比为30dB。解：3-10 一个平均功率受限制的连续信道，其通频带为1MHZ，信道上存在白色高斯噪声。1信道上的信号与噪声的平均功率比值为10，求该信道的信道容量；2信道上的信号与噪声的平均功率比值降至5，要达到一样的信道容量，信道通频带应为多大？3假设信道通频带减小为0.5MHZ时，要保持一样的信道容量，信道上的信号与噪声的平

20、均功率比值应等于多大？解：123欢迎下载！第四章第五章5-1 将下表所列的某六进制信源进展二进制编码，试问：消息概率u1u2u3u4u5u61/21/41/161/161/161/16000001010011100101 0 01 011 0111 01111011111 0 10 110 1110 11110111110 0 101101110010011111 100000101011011001001100101110111(1) 这些码中哪些是唯一可译码？(2) 哪些码是非延长码？(3) 对所有唯一可译码求出其平均码长和编译效率。解：首先，根据克劳夫特不等式，找出非唯一可译码不是唯一可

21、译码，而：又根据码树构造码字的方法，的码字均处于终端节点他们是即时码5-2(1)因为A,B,C,D四个字母,每个字母用两个码,每个码为0.5ms, 所以每个字母用10ms 当信源等概率分布时,信源熵为H(X)=log(4)=2平均信息传递速率为bit/ms=200bit/s (2) 信源熵为 H(X)=/ms=198bit/s5-35-5(1) H(U)=(2) 每个信源使用3个二进制符号,出现0的次数为出现1的次数为P(0)= P(1)= (3) (4) 相应的香农编码信源符号xi符号概率pi累加概率Pi-Logp(xi)码长Ki码字x11/20110x21/42210x31/833110x

22、41/16441110x51/325511110x61/6466111110x71/128771111110x81/1287711111110相应的费诺码信源符号xi符号概率pi第一次分组第二次分组第三次分组第四次分组第五次分组第六次分组第七次分组二元码x11/200x21/41010x31/810110x41/16101110x51/321011110x61/6410111110x71/128101111110x81/1281111111105香农码和费诺码一样 平均码长为编码效率为： (2)5-11 1信源熵 2香农编码：信源符号xi符号概率pi累加概率Pi-Logp(xi)码长Ki码字x

23、10200x23010x33100x43101x541110x6511110 平均码长： 编码效率为 3费诺编码为信源符号xi符号概率pi1234编码码长x100002x21012x310102x4101103x51011104x6111114平均码长为： 编码效率： 4哈夫曼编码信源符号xi符号概率pi编码过程编码码长x11012x2102x3112x40003x500104x600114平均码长为： 编码效率： 5.16 二元信源0，1，其p0=1/4,p1=3/4,试用式4.129对序列11111100编算术码，并计算此序列的平均码长。解：根据算术编码的编码规如此，可得：P(s=11111100) = P2(0)P6(1) = (3/4)6 (1/4)2根据4.129可得： F(S) = P(0) + P(10) + P(110) + P(1110) + P(11110) + P(111110) = 1= 1 P(11111111) P(11111110) P(11111101) P(11111100) = 1 P(111111) = 1 (3/4)6即得C = 0.1101010 得S的码字为1101010 平均码长为 0.875。52 / 52