发布时间 : 星期四 文章武汉理工信息论编码复习资料更新完毕开始阅读
1自我测试题
一、填空题
1. 在认识论层次上研究信息的时候，必须同时考虑到形式、 语义和语用三个方面的
因素。
2. 如果从随机不确定性的角度来定义信息，信息是用以消除随机不确定性的东西。 3. 信源编码的结果是减小冗余；而信道编码的手段是增加冗余。
4. 1948年，香农发表了著名的论文通信的数学理论，标志着信息论诞生。 5. 信息商品是一种特殊商品，它有保存性、共享性、和老化可能性知识创造性等特征。 二、判断题
1. 信息传输系统模型表明，噪声仅仅来源于信道（×） 2. 本体论层次信息表明，信息不依赖于人而存在（√） 3. 信道编码与译码是一对可逆变换（×）
4. 1976年，论文《密码学的新方向》的发表，标志着保密通信研究的开始（×） 5. 基因组序列信息的提取和分析是生物信息学的研究内容之一（√） 三、选择题
1. 下列表述中，属于从随机不确定性的角度来定义信息的是_D____
A． 信息是数据
B． 信息是集合之间的变异度 C． 信息是控制的指令
D． 信息是收信者事先不知道的报道 2. __B___是最高层次的信息
A． 认识论 B． 本体论 C． 价值论 D． 唯物论
3. 下列不属于狭义信息论的是__D___
A． 信息的测度 B． 信源编码 C． 信道容量 D． 计算机翻译
4. 下列不属于信息论的研究内容的是_A____
A． 信息的产生 B． 信道传输能力 C． 文字的统计特性 D． 抗干扰编码
5. 下列关于信息论发展历史描述不正确的是__B___
A． 偶然性、熵函数引进物理学为信息论的产生提供了理论前提。 B． 1952年，香农发展了信道容量的迭代算法 C． 哈特莱用消息可能数目的对数来度量消息中所含有的信息量，为香农创立信息论提
供了思路。
D． 1959年，香农首先提出率失真函数和率失真信源编码定理，才发展成为信息率失
真编码理论。
2本章测试题
一、填空题
1.N阶平稳信源的N维分布函数与时间的起点无关。
2.在对信源进行观察之前，对认识主体来说，信源存在先验不确定性，观察之后，信源还存在后验不确定性。
3.联合符号(xi,yj)的不确定性，等于关于输入xk的不确定性加上干扰引入的不确定性。 4.256个亮度值构成的信源，其熵值最大为8比特。 5.无条件熵大于条件熵，条件多的熵小于条件少的熵。（填大于或小于） 二、判断题
1.对于DMS，长度为3的符号串的平均不确定是单个符号平均不确定的3倍。（√） 2.信源内部的关联性，会提高熵值。（ ×）
3.马尔科夫信源符号的输出不仅与当前的信源状态有关，而且还与以前的状态有关。（ ×） 4.信息含量效率越高，信源的冗余度也越高。（ ×） 5.与离散熵相同，微分熵也是非负的。（ ×） 三、选择题
1.下列物理量，不满足非负性的是（C）
A. H(X); B. I(X;Y); C. I(xi;yj); D. H(YX)
2.连续型随机变量的取值受限，那么该随机变量服从____C______时，微分熵最大。
A. 高斯分布；B. 泊松分布；C. 均匀分布；D. 指数分布 3.下列说法中，不正确的是_____C_____
A. 熵功率P≤P，其中P为连续随即变量X的平均功率
_12h(X)eB. 熵功率P=，其中h(X)是X的微分熵 2πe_C. 若X平均功率为P，但不是高斯分布，则h(X)>In2πeP
D. X的平均功率为P时（均值非零），则X得最大熵为h(X)=log2πeP 4.下列表达式不正确的是____B_____
A. I(xk,yj)=I(xk)+I(yjxk)=I(yj)+I(xkyj) B. I(u1;u2u3) C. H(XY)=H(X)+H(YX)=H(Y)+H(XY) D. H(XY)≤H(X) 5.下列关于马尔科夫信源的叙述中，不正确的是____D______ A. 某一时刻信源符号的输出只与当时的信源状态有关，而与之前的状态无关 B. 信源状态只由当前输出符号和前一时刻信源状态唯一确定 C. 一般马尔科夫信源的信息熵是其平均符号熵的极限值 D. M阶马尔科夫信源的极限熵等于m+1阶条件熵 一、填空题 1. 有记忆信道的当前输出不仅与当前时刻的输入有关，还与以前的输入有 关。 2. 既代表收到输出Y后对输入X还存有的疑义，又代表信道在传输过程中的信息损 失，因此，通常把H(X|Y)称为信道的疑义度或损失熵 3. 如果信道给定，那么I(PX,P如果信源给定，那么Y|X)是输入概率PX的上凸函数。 I(PX,PY|X的下凸函数。 Y|X)是转移概率P4. 衡量一个信息传递系统的好坏，有两个主要指标。其一数量（速度）指标：信息 （传输）率R，即信道中平均每个符号传递的信息量；其二质量指标：平均差错率Pe，即对信道输出符号进行译码的平均错误概率。 5. 使得给定信道I(X;Y)达到最大值(即信道容量C)的输入分布，称为最佳输入(概 *率)分布，记为PX 二、判断题 信道容量C不仅与信道转移概率有关，也与信道的输入分布有关。（×） 噪声熵为0的信道称为确定信道。（√） 离散对称信道输入等概率分布时，输出未必也等概率分布。（×） 一般DMC达到信道容量的充要条件为信源符号的偏互信息均等于信道容量。（√） 信道是DMC的充要条件是序列符号对之间的转移概率等于各个时刻单个符号对转移概率之连乘。（√） 三、选择题 1. 若信道和信源均无记忆，以下结论不成立的是___C__ 1. 2. 3. 4. 5. A. I(X;Y)??I(Xk?1NNk;Yk) B．I(X;Y)?NI(X;Y) C．I(X;Y)?N?I(Xk?1k;Yk) D．C?NC 2. 关于两个独立信道Q1、Q2串联，下列说法不正确的是___A__ X A. 串联信道的信道容量与组成串联信道的各分信道的信道容量存在精确的定量关系 B．数据处理过程中，随着数据的不断处理，从处理后的数据中所得的原始信息会愈来 愈少 C．串联信道的转移概率矩阵是各单元信道的转移概率矩阵之积 D．XYZ组成一个马尔可夫链 3. 信源的输出与信道的输入匹配的目的不包括__C___ A. 符号匹配；B. 信息匹配； C. 功率匹配；D. 降低信道剩余度 4. 以下关于连续信道的说法中，不正确的是__B___ A．连续信道是时间离散、幅值连续的信道 B．连续信道的统计特性由转移概率分布函数描述 C．加性噪声信道的转移概率密度函数等于噪声的概率密度函数 D．对于无记忆加性噪声信道，若输入信号服从高斯分布，且噪声的平均功率受限，则服从高斯分布的噪声使信道平均互信息量达到最小 5. 已知香农公式C(PS)?Blog?1?信道I Q1 Y信道II Q2 Z??PS??，不能得出的结论是___C___ N0B?A. 在信噪比不变的前提下，增大频带，可增大信道容量 B. 频带不变时，增大信噪比即可增大信道容量C C. 在PS增大很多之后，继续增大信号功率来实现信道容量的增大是一个有效途径 D. 用扩频方法来增大信道容量，其作用是有限的 一、填空题 1. 无失真编码只对信源的冗余度进行压缩，而不会改变信源的熵，又称冗余度压缩编 码。 2. 无失真信源编码的作用可归纳为（1）符号变换；（2）冗余度压缩 3. 无失真信源编码器的熵为H(U)=2.35bit/符号；则编码后的熵 H(W)?___2.35__bit/码字；若平均码长为2.6比特/码字，则H(X)=_0.9038 比特/码元，信息率R=0.9038比特/码元， ?c=90.38%，冗余度?c=9.62％。 4. 含相同码字的码称为奇异码 5. 对于一个码，若由该码的码字组成的任意有限长码字序列都能恢复成惟一的信源符 号序列，则称该码为惟一可译码 二、判断题 1. 对于一个码，若每个码字都与惟一的一个信源符号相对应，则该码为惟一可译码。 （×） 2. 定长非奇异码肯定是惟一可译码。（√） 3. 非续长码中任一码字都不是其他码字的前缀。（√） 4. 非续长码必满足Kraft不等式。（√） 5. 一个码是惟一可译码的充要条件是满足Kraft不等式。（×） 三、选择题 1. 关于定长编码，以下说法不正确的是__D___ A. 无失真定长编码要求可用的码字数不少于扩展信源的符号数 B．无失真r进制定长码码长不得低于信源r进制符号熵 C．信源序列的分组长度N增大可以提高编码效率 D．引入失真不可能提高定长码的编码效率 2. 关于变长编码，以下说法不正确的是___C__ A. 无失真r进制变长码码长不得低于信源r进制符号熵 B．变长编码时，随着信源序列长度N的增大，编码效率提高。 C．变长码要求各个码字的长度互不相同 D．变长码的编码效率高于定长码 3. 下述编码中__A___可能是任何概率分布对应的Huffman A．{0, 10, 11} B．{00, 01, 10, 110} C．{01, 10} D．{001, 011, 100, 101} 4. 关于无失真信源编码，以下说法不正确的是__D___。 A．有效的信源编码可使输出码元概率均匀化 B．霍夫曼编码过程中，可能造成码字不惟一，但平均码长是相同的，因而编码效率是 相同 C．香农编码不能保证码字具有非续长性