发布时间 : 星期六 文章信息论与编码习题参考答桉1更新完毕开始阅读
2002 Copyright EE Lab508
n?H(S)logrH(?1111,,,)72848? 脉冲数/信源符号
log24所以此情况下每消息所需的最少脉冲数是1.75个.
达到此下限时要求各消息对应码长ni与出现概率p(Si)关系为:p(Si)=2,则 n1=1,n2=3,n3=2,n4=3.
对信源进行Huffman编码:
码长 编码 1 2 3 0 10 100 -ni
信符 S1 S3 S2 信符概率 1/2 1/4 1/8 0 1 1/2 1/4 1/4 1/2 0 1 1/2 0 1 3 101 S2 1/8 可见上面编码符号最小码长条件,可使发送每信息的脉冲数最少.
6.9设某信源的信源空间为:
?S: s1 s2 s3 s4 s5 s6 s7?[S?P]:?1111111
?P(S): 24816326464?试用U:{0,1}作码符号集,采取香农编码方法进行编码,并计算其平均码长n. 解: 码长 1 2 3 4 5 6 6 7编码 0 10 110 1110 11110 111110 111111 信符 s1 s2 s3 s4 s5 s6 s7 信符概率 1/2 1/4 1/8 1/16 1/32 1/64 0 1/64 1 1/2 1/4 1/8 1/2 1/4 1/8 1/2 1/4 1/8 1/2 1/2 1/16 1/16 0 1/32 0 1/8 1 1 1/16 1/32 0 1/4 1 0 0 1/2 1 1 1/4 ?n? ??i?1pini14?2?18?3?116?4?132?5?164?6?164?6
12?1? ?1.96875 码符号/信源符号第七章抗干扰信道编码
7.4设有一离散信道，其信道矩阵为：
?H.F.
2002 Copyright EE Lab508
?1?2?1[P]???4?1??41412141?4?1?? 4?1?2??(1) 当信源X的概率分布为р(?1)＝2/3，р(?2)＝р(?3)＝1/6时，按最大后验概率准则选择译码函数，并计算其平均错误译码概率Pemin．
(2) 当信源是等概信源时，按最大似然译码准则选择译码函数，并计算其平均错误译码概率
Pemin． 解：
(1)计算后验概率，有：3p(b1)??i?1P(ai)P(b1ai)?P(a1)P(b1a1)p(b1)p(b2)P(a1)P(b3a1)p(b3)3512?47473, p(b2)?45?i?1P(ai)P(b2ai)?P(a2)P(b1a2)p(b1)P(a2)P(b2a2)p(b2)P(a2)P(b3a2)p(b3)72411027173, p(b3)??i?1P(ai)P(b3ai)?P(a3)P(b1a3)p(b1)P(a3)P(b2a3)p(b2)P(a3)P(b3a3)p(b3)7241;?P(a1b1)?P(a1b2)?P(a1b3)?, P(a2b1)??, P(a3b1)?, P(a3b2)??101727;;P(a1)P(b2a1)?, P(a2b2)?, P(a2b3)?????, P(a3b3)??.?取解码规则为：Pemin?1?F(b1)?a1 F(b2)?a1 F(b3)?a1*?j?1p(bj)p(abj)?13(2)由信道矩阵，取译码规由于信源等概分布则为：F(b1)?a1 F(b2)?a2 F(b3)?a333?pe?pemin?1??j?1p(a)p(bja)?****??j?1i?**p(ai)p(bjai)?12
7.5某信道的输入符号集X：{0，1/2，1}，输出符号集Y：{0，1}，信道矩阵为：
0?11?1[P]??221??00?1?? 21??现有四个消息的信源通过这信道，设信息等概出现。若对信源进行编码，我们选这样一种码：C:{(x1,x2,1/2,1/2)}，xi=0,1(i=1,2)
其码长n=4，并选取这样的译码原则：?(y1,y2,y3,y4)=(y1,y2,1/2,1/2) (1) 这样的编码后信息传输效率等于多少？
(2) 证明在选用的编码规则下，对所有码字有Pe＝0。 解：
?H.F.
2002 Copyright EE Lab508
(1)?信道输入等概出现(2)证明：22j?R?logMN?log442?0.5 bit/symble?Pe??P(bj?1)Pej??P(bj?1j)(1-PRj)??P(bj?1j)(1-P{X?F(bj)?ai/bj})
?P(0)(1?1)?P(1)(1?1)?0?在这样的译码原则下，对所以的码字Pe＝0。7.6考虑一个码长为4的二进制码，其码字为w1=0000；w2=0011；w3=1100；w4=1111。若码字送入一个二进制对称信道（其单符号的误传概率为p，p<0.01），而码字的输入是不等概率的，其概率为：p(w1)=1/2，p(w2)=1/8，p(w3)=1/8，p(w4)=1/4 试找出一种译码规则使平均错误概率Pemin=Pe。
解：由于信道为二进制对称信道，所以先验概率等于后验概率，且p<0.01，故可以根据信道输出的24个码字的最大后验概率选择译码规则，即可使平均错误概率Pemin=Pe。 发送概率 收到码字 0000 w1=0000 w2=0011 w3=1100 w4=1111 译码规则 121P 48181818181818181818181818PP 2218181818181818181818181818PP 2214141414141414141414141414P 4F(0000)=0000 0001 0010 0011 0100 0101 0110 0111 1000 1001 1010 1011 1100 121212121212121212121212PP PP PP PP PP PP PP PP PP PP PP PP 223222233222232233PP PP P PP PP PP PP PP PP PP PP P 4322223322223433PP PP P PP PP PP PP PP PP PP PP P 4322223322223433PP PP PP PP PP PP PP PP PP PP PP PP 223222233222232233F(0001)=0000 F(0010)=0000 F(0011)=0011 F(0100)=0000 F(0101)=0000 F(0110)=0000 F(0111)=1111 F(1000)=0000 F(1001)=0000 F(1010)=0000 F(1011)=1111 F(1100)=1100 ?H.F.
2002 Copyright EE Lab508
1101 1110 1111 121212PP PP P 16433181818*PP PP PP 2233181818PP PP PP 2233141414PP PP P 433F(1101)=1111 F(1110)=1111 F(1111)=1111 ?Pe?Pemin?1? ?1?( ?12?j?1P(bj)P(abj)4122P?21212PP?22312PP?3318P?4412PP?143312PP?14PP?3221214PP?P)42214PP?312PP3
PP?4PP?32142PP?18P?PP? ?1?P?3PP?2PP7.7设一离散无记忆信道，其信道矩阵为：
?1?2??0??0???0?1??2121200001212000012120???0??0? ?1??2?1?2?0(1) 计算信道容量C；
(2) 找出一个长度为二的码，其信息传输率为0.5log5（即五个字符），如果按最大似然译码
准则设计译码器，求译码器输出端平均错误译码的概率Pe（输入字符等概）；
(3) 有无可能存在一个长度为2的码而使每个码字的平均误译概率Pe＝0（i=1,2,3,4,5），也
即使平均错译概率Pe＝0？如存在的话请找出来。 解：
(1)?r?s?5，且[P]为非奇异矩阵55j(i)
?由?p(bj/ai)?j?1??j?1p(bj/ai)logp(bj/ai)(i?1,2,3,4,5)得
??1???2???3???4???1(2)(3)??2??2??1???3??2??2???4??2???3????5??2?4???5??2??5??1??1??1?C?log??1??15?j?12?j?log52?1.322bit/symble
?H.F.