发布时间 : 星期六 文章信息论与编码习题参考答桉1更新完毕开始阅读
2002 Copyright EE Lab508
7.8设有二个等概信息A和B，对它们进行信道编码，分别以w1=000，w2=111表示。若二进制对称信道的正确传递概率p`>>错误传递概率p。试选择译码函数，并使平均错误概率Pe=Pemin，写出Pemin的表达式。 解：
000 001 010 100 011 101 110 111 000?P3?P???111?P3PPPP22PPPP22PPPP22PPPP22PPPP22PPPP223P? 3?P?因为正确传递概率p`>>错误传递概率p，所以选择译码函数如下： F(000)=F(010)=F(100) =F(001)=000 F(111)=F(011)=F(101) =F(110)=F(111)=111
8Pe?Pemin???j?1i?*P(wi)P(bjwi)?12(6PP?2P)?3PP?P
23237.9设离散无记忆信道的输入符号集X：{0，1}，输出符号集Y：{0，1，2}，信道矩阵为：
0 1 2 0?1??P???21?1?414121?4? 1??4?若某信源输出两个等概消息s1和s2，现在用信道输入符号集中的符号对s1和s2进行信道编码，以w1=00代表s1，w2=11代表s2。试写出能使平均错误译码概率Pe=Pemin的译码规则，并计算Pemin。 解：
由题意可得转移矩阵： 00 01 02 10 11 12 20 21 22 ?100?4[P]??11?1??16?取译码规则1818181161818116141161818116116181??16?1?16??
F(00)?F(01)?F(02)?F(10)?F(20)?00 F(11)?F(12)?F(21)?F(22)?11 9又输入等概?Pe?Pemin???j?1r?**P(wi)P(bjwi)?11327.10设某信道的信道矩阵为：
?0.5?[P]?0.2???0.30.30.30.30.2??0.5 ?0.4??其输入符号等概分布，在最大似然译码准则下，有三种不同的译码规则，试求之，并计算出
它们对应的平均错误概率。
?H.F.
2002 Copyright EE Lab508
解：输入符号等概分布，在最大似然译码准则下，有三种不同的译码规则: (1) F(b1)=?1，F(b2)=?1，F(b3)=?2 (2) F(b1)=?1，F(b2)=?2，F(b3)=?2
(3) F(b1)=?1，F(b2)=?3，F(b3)=?2
?P(b2a1)?P(b2a2)?P(b2a3)3?Pe?Pemin?Pemin1?Pemin2?Pemin3???P(ai)P(bjai)?0.5667
j?1i?**
第八章 限失真信源编码
8.1设信源X的概率分布P(X):{p(?1), p(?2), ?,p(?r) },失真度为d (?i, ?j)≥0,其中(i=1,2,?,r;j=1,2,?,s).试证明:
rDmin??p(ai){mind(ai,bj)}
i?1j并写出取得Dmin的试验信道的传输概率选取的原则,其中
mind(ai,bj)?min{p(b1/ai),p(b2/ai),?,p(bS/ai))}
jj(证明详见:p468-p470)
8.2设信源X的概率分布P(X):{p(?1), p(?2), ?,p(?r) },失真度为d(?i, ?j)≥0,其中 (i=1,2,?,r;j=1,2,?,s).试证明:
rDmax?min{?p(ai)d(ai,bj)}
ji?1并写出取得Dmax的试验信道传递概率的选取原则. (证明详见:p477-p478)
8.5设二元信源X的信源空间为:
[X?P]:?X 0 1 ??P(X) ? 1-?
令ω≤1/2,设信道输出符号集Y:{0,1},并选定汉明失真度.试求: (1) Dmin,R(Dmin);
(2) Dmax,R(Dmax);
(3) 信源X在汉明失真度下的信息率失真函数R(D),并画出R(D)的曲线; (4) 计算R(1/8). 解：
?H.F.
2002 Copyright EE Lab508
2(1)最小允许失真度：则满足保真度D?DDminmin??i?1p(ai)?minjd(ai,bj)??p(0)?0?p(1)?0＝0?0的信道矩阵 0 10?10? [P]???1?01?p(bj/ai)?0或p(bj/ai)?1(i?1,2),故此时H(X/Y)?0?R(Dmin)?R(0)?min?I(X;Y)??min?H(X)?H(X/Y)??H(X)?H(?)(2)Dmax?D?min?2??min??p(ai)d(ai,bj)??min?p(0)d(0,0)?p(1)d(1,0);p(0)d(0,1)?p(1)d(1,1)?jj?i?1? ?min{p(1);p(0)}?p(1)??j此时I(X;Y)?0?R(Dmax)?R(?)?0(3)离散信源在汉明失真度下,R(D)?H(X)?H(D)?Dlog(r?1)?对此信源R(D)?H(X)?H(D)?H(?)?H(D)?H(?)?H(D) 0?D??即R(D)???0 D??
由上，可得R(D)曲线如下:
R(D) H(ω) D
0
(4)R(1/8)=H(ω)-H(1/8)= H(ω)-0.5436 bit/symble 8.6一个四进展等概信源
?U 0 1 2 3 ?[U?P]:?1111
P(U) ?4444?Dmax=ω
接收符号集V:{0,1,2,3},其失真矩阵为:
?0?1?[D]??1??1101111011??1? 1??0?(1) Dmin,R(Dmin); (2) Dmax,R(Dmax);
?H.F.
2002 Copyright EE Lab508
(3) 试求R(D), 并画出R(D)的曲线(去4到5个点). 解:
(1)设输出符号集4Y:{b1,b2}最小允许失真度：Dmin??i?1p(ui)?minjd(ui,bj)??p(0)?0?p(1)?0?p(2)?0?p(3)?0＝0D?Dmin?0的信道矩阵00100??0?0??1?则满足保真度?1?0[P]???0??00100p(bj/ui)?0或p(bj/ui)?1(i?1,2,3,4),故此时H(U/Y)?0?R(Dmin)?R(0)?min?I(U;Y)??min?H(U)?H(U/Y)??H(U)?H(1111,,,)?2bit/symble4444
(2)Dmax?D?min?4??3333?3?min??p(ui)d(ui,bj)??min?,,,??jj?4444?4?i?1?下,R(D)?H(X)?H(D)?Dlog(r?1)此时U、Y相互独立,故I(X;Y)?0?R(Dmax)?R(?)?0(3)离散信源在汉明失真度?对此信源R(D)?H(U)?H(D)?Dlog3?2?H(D)?Dlog33?2?H(D)?Dlog3 0?D???4即R(D)???0 D?3?4?可计算得:D?0,R(0)?2bit/symble; D? D? D? D?11,R()?1.258bit/symble;88111,R()?0.792bit/symble;441,R()?0.208bit/symble;2234,R()?0bit/symble43可得R(D)曲线如下:
2 1.258 0.792 0.208 0
8.7某二进制信源:
R(D) (bit/bymble) 1/8 1/4 1/2 3/4 D
?H.F.