信息论与编码习题参考答桉1 联系客服

发布时间 : 星期六 文章信息论与编码习题参考答桉1更新完毕开始阅读

2002 Copyright EE Lab508

第五章 多维连续信源与信道

5.8设X(?)是时间函数x(t)的频谱,而函数在T1

?X(f)??n???X(nT)sin(n???fT)n???fT

(频域抽样定理,证明详见p263-p265)

5.9设随机过程x(t)通过传递函数为K(?)的线性网络,如下图所示.若网络的频宽为F,观察时间为T.试证明:输入随机过程的熵h(X)和输出随机过程的熵h(Y)之间的关系为:

x(t) 网络 K(?)

?n?h(Y)?h(X)??logK???T?n?1FT2y(t)

(证明详见p283-p287)

5.11证明:加性高斯白噪声信道的信道容量:

C?N2log(1???2X2N) 信息单位/N维

其中N=2FT,б2X是信号的方差(均值为零), б2N是噪声的方差(均值为零). 再证:单位时间的最大信息传输速率

Ct?Flog(1??2XN0F) 信息单位/秒

(证明详见p293-p297)

5.12设加性高斯白噪声信道中,信道带宽3kHz,又设{(信号功率+噪声功率)/噪声功率}=10dB.试计算改信道的最大信息传输速率Ct. 解:

由题意有:10logS?NNSN?10?S?NN?10即SN?9

?Ct?Flog(1?)?3000?log(1?9)?9965.78 bit/s?H.F.

2002 Copyright EE Lab508

5.13在图片传输中,每帧约有2.25×106个像素,为了能很好的重现图像,需分16个量度电平,并假设量度电平等概率分布,试计算每分钟传输一帧图片所需信道的带宽(信噪功率比为30dB). 解:

由题意用16个亮度电平来表示一个又由Ct?Flog(1?F?Ctlog(1?SN)?SN)得:Ct1像素则需要4位二进制编码;

?)dB2.25?10?4?60log(1?10)36log(1?1010(SN?1.505?104?15.05kHz)

5.14设电话信号的信息率为5.6×104比特/秒.在一个噪声功率谱为N0=5×10-6mW/Hz,限频F、限输入功率P的高斯信道中传送,若F=4kHz,问无差错传输所需的最小功率P是多少W?若

F→∞则P是多少W? 解:

(1)F?4kHz时,实现无差错传输则取等号,即R?Flog(1?RR?Flog(1?PN0F)PminN0F?6)得5.6?104Pmin?N0F(2F?1)?5?10所以无差错传输所需要?10?3?4?10?(234?103?1)?0.32766W得最小功率Pmin?0.32766WR?limCt?F??4?6(2)F??时,由实现无差错传输则PxN0ln2?3?4取等号,则Pmin?RN0ln2?5.6?10?5?10?10?ln2?1.941?10?0.1941mW

5.15已知一个高斯信道,输入信噪功率比为3dB,频带为3kHz,求最大可能传送的信息率是多少?若信噪比提高到15dB,求理论上传送同样的信息率所需的频带. 解:

最大可能传输的速率为 R?Ct?Flog(1?若(SN)dB?15则F?:SN1)?Flog(1?1010?)(SN)dB3)?3?10?log(1?1010)?4748.05 bit/s?944.36 Hz3Rlog(1?SN4748.0515log(1?1010)

?H.F.

2002 Copyright EE Lab508

5.17设某加性高斯白噪声信道的通频带足够宽(F→∞),输入信号的平均功率Ps=1W,噪声功率谱密度N0=10W/Hz,,若信源输出信息速率Rt=1.5×10比特/秒.试问单位时间内信源输出的信息量是否全部通过信道?为什么? 解:

?limCt?F??-44

PsN0ln2?110?4?ln2?1.4427?10bit/s?Rt?1.5?10bit/s传输速率,所以单位时间内信源输.44即信源输出信息速率大出的信息量不能全部通于信道所能提供的最大过信道,否则会产生失真

第六章 无失真信源编码

6.3设平稳离散有记忆信源X=X1X2?XN,如果用r进制符号集进行无失真信源编码.试证明当N→∞时,平均码长n(每信源X的符号需要的码符号数)的极限值:

limn?H?r

N??其中,H∞r表示r进制极限熵. 证明:

对于平稳离散有记忆信H??limHN??N源X?X1X2?XH(X)N?limH(XN??N(X)?limN??N/X1X2?XN)由平均码长界限定理H(X)logr则?nX?H(X)logrnXN??1H(X)N?logrnXN1NH(X)N?logr?1N)H(X)N?logr??

?lim即H(X)N?logrN???limN???lim(N??H?logr?limn?N??H?logr?limn?N??H?logr?H?r

6.4设某信源S:{s1,s2,s3,s4,s5,s6},其概率分布如下表所示,表中也给出了对应的码1,2,3,4,5,6.

(1)试问表中哪些码是单义可译码? (2)试问表中哪些码是非延长码? (3)求出表中单义可译码的平均码长n. si pi W(1) W(2) W(3) W(4) W(5) W(6) ?H.F.

2002 Copyright EE Lab508

s1 s2 s3 s4 s4 s6

1/2 1/4 1/8 1/16 1/32 1/32 000 001 010 011 100 101 0 01 011 0111 01111 011111 0 10 110 1110 11110 111110 0 01 001 0001 00001 000001 0 10 110 1110 1011 1101 0 100 101 110 111 011 解:

(1)W(1)是定长非奇异码,单义可译,W(2)是延长码,单义可译, W(3)是即时码,单义可译; (2) W(1)、W(3)是非延长码; (3)

6W(1):n?W(2):n?W(3):n??i?16pini?pini?pini?121212?3??1??1?141414?3??2??2?181818?3??3??3?116116116?3??4??4?132132132?3??5??5?132132132?3?3?6??6?63326332?i?16

?i?1

6.5某信源S的信源空间为:

?S: s1 s2 [S?P]:?P(S): 0.2 0.8 ?(1) 若用U:{0,1}进行无失真信源编码,试计算平均码长n的下限值;

(2) 把信源S的N次无记忆扩展信源SN编成有效码,试求N=2,3,4时的平均码长n; (3) 计算上述N=1,2,3,4,这四种码的信息率. 解:

2(1)H(S)???p(si)logp(si)??(0.2?log0.2?0.8?log0.8)?0.7219bit/symblei?1?由平均码长界限定理(2)N?2时:n?H(S)logr?0.7219log2?0.7219

2?S S11 S12 S21 S22?2[S?P]??2??P(S) 0.04 0.16 0.16 0.64对其进行Huffman编码:

码长 1 2 3 编码 0 10 110 信符 S22 S21 S12 信符概率 0.64 0.16 0.16 0 0 1 1 0 1 ?H.F.