PDF《2015-2016 复旦大学信息论期末考试》

2015-2016 复旦大学信息论期末考试 一.

论述题(15 分) 1.信源信息冗余度主要来自哪两个方面? 2.有扰离散信道编码定理是什么? 在此信道传输时减小平均差错概率 Pe 的措施主要有哪三大类? 二.(16 分)P(x1)=0.6,P(x2)=0.4 p(y1|x1)=5/6 p(y1|x2)=3/4 信源 X=(x1,x2) 接收端 Y=(y1,y2) 试求: 1.x1,x2 的自信息量 2.X 和Y的熵 3.信道疑义度和噪声熵 4.接收到 Y 后获得的平均互信息 三.(18 分)60 只外观相同球,59 只质量一样,一只偏轻.一具无 砝码天平. 1.要找到偏轻球所需的总信息量 2.若天平两侧每次只能放一球则第一次测量和第二次测量分别提供 多少平均信息量,两次 测量之间的互信息量是多少. 3.若每次放的球数不限,每次称量最多提供多少信息量 4.在3的条件下,最少称几次课确保找出偏轻的那球 四.(15 分)转移矩阵和失真矩阵如下 a b c a b c a 0.6 0.1 0.3 a

0 1

1 P= b 0.3 0.6 0.1 D= b

1 0

1 C 0.1 0.6 0.3 c

1 1

0 1.计算信道容量 C 2.Pa=0.5 pb=0.2 pc=0.3 求信道平均失真 3.在2条件下用最大后验概率译码方法,平均差错为多少 五.(16 分)二元霍夫曼送分题 六.(20 分) (2,1,2)卷积码,生成矩阵为(1+D^2,1+D) 1.画出状态流图,求输入为

01011 时的编码输出 2.求自由距离 3.接收到 R=(00,10,10,11,00……)用维特比算法求消息符号序列和 发送数据序列