《信息理论与编码总复习.ppt》由会员分享，可在线阅读，更多相关《信息理论与编码总复习.ppt（8页珍藏版）》请在三一办公上搜索。
1、一、填空,1.在对信源进行观察之前，对认识主体来说，信源存在，它与信源的 有关。,3.是自信息量的统计平均，对数以2为底时，单位是。,2.考虑任意N个相邻时刻输出的随机变量，将其看成一个新的离散无记忆信源的输出，则称为。,4.一般衡量一个信息传递系统的好坏，有两个主要指标，其一，信息率R，即，其二，平均差错率，即。,5.设的取值受限于有限区间a,b，则X服从 分布时，其熵达到最大。,9.最小码间距离是衡量码的性能的重要参数，信道编码在选择码字组成一个码时，只要条件允许，尽量使码的最小码间距离 一些为好。,8.两个等长符号序列之间的汉明距离，是它们之间。,7.使平均差错率达到最小的译码规则称为。
2、,6.变长码采用非续长码，力求使 最小，此时 最高，信源的冗余度得到最大程度的压缩。,15.物理量H(X)、H(X|Y)、I(X;Y)、I(yj;xi)、I(xi|yj)、I(xi)中，只有 不具有非负的性质。,11.在加性高斯噪声信道中传输信息，分布的输入信号是最有效的。,12.将一个码标在码树上，如果其所有码字均处于 节点上，则该码为非续长码。,二、简答题,分析连续信源熵和离散信源熵的异同点。2.简述唯一可译性和非奇异性的区别与联系。3.简述信源的信息率、信息速率、信息含量效率和信息冗余度的概念。,4.设DMC的转移矩阵为，求该信道的2次扩展信道的转移矩阵。,五、三个特殊的DMC的转移矩阵如下：分别判断各信道属何种信道（无损、确定、无损确定、对称、准对称、一般），求出各信道的最佳输入分布和信道容量。（注：,）,
