《信息论与编码简答题.docx》由会员分享，可在线阅读，更多相关《信息论与编码简答题.docx（2页珍藏版）》请在三一办公上搜索。
1、信息论与编码简答题简答题： 1 简述信息、消息和信号的区别和联系？ 消息指的是信号要传递的内容，是本质；信号是消息传递的形式，比如是电信号、光信号等，是载体；信息是指传达给人的消息，能消除受信者的某些不确定性；数据是信息的载体，是客观事物的具体表现和对真实世界的反映，是信息的符号.信息是对数据加工、处理的结果，是对数据内容的解释。 信号是数据在通信系统传输过程中的表示形式或电子编码。 三都的关系是：信息可以表示与存贮为数据形式，而从数据中可以解译出信息，数据是通过信号传输的. 2 请写出自信息量I(xi)和信息熵H(X)的物理意义。 3 请
2、写出互信息I(X;Y)、疑义度H(X|Y)和噪声熵H(Y|X)的物理意义及三者的关系式。 I(X;Y)=H(X)-H(X/Y)=H(Y)-H(Y/X)=I(Y;X)p(xi/yj)p(yj/xi) =p(xi,yj)log=p(xi,yj)log=I(Y;X)p(xi)p(yj) i,ji,j p(yj/xi)p(yj/xi)=p(x)p(y/x)log=p(x)p(y/x)log ijiijip(y)p(xi)p(yj/xi)ji,ji,ji简述离散无记忆信源的最大熵定理。 请写出通信系统中的编码分类及每种编码所保证的性能指标。 最佳变长编码包括哪三种编码？ 请写出二元序列000101110010001对应的游程序列？ 请写出随机差错和突发差错的概念。 请写出差错控制系统的分类。 请分别写出“系统码”和“系统化”的概念？
