《信息论》(电子科大)试卷答案

电子科技大学二零零 五 至二零零 六 学年第 二 学期期 末 考试 《信息论导论》 课程考试题 B 卷 （ 120 分钟） 考试形式： 开卷 考试日期 200 6 年 8 月 31 日 课程成绩构成：平时 20 分， 期中 分， 实验 分， 期末 80 分 一 二 三 四 五 六 七 八 期中成绩 期末成绩 平时成绩 实验成绩 课程成绩 评卷教师 一、已知平稳无记忆信源X1X2X3X4X5X6任一符号的数学模型
，i =1,2,3,4,5,6；①求符号序列取值013020时的联合自信息量I(013020)；②求该信源的联合熵H(X1X2X3X4X5X6)。（8分） ①I(013020) = 11.347(bit) (4) ②H(X1X2X3X4X5X6) = 6H(X) = 11.079(bit/symbol) (4) 二、二元二阶马尔科夫信源的状态图如图所示，求该信源的极限熵H∞。（10分） p(00) = p(11) =
,p(01) = p(10) =
(6) H∞=H2+1= 0.984(bit/symbol) (4) 三、已知信源的数学模型
；对该信源编二进制哈夫曼码，并求其编码效率。（12分） (6) H(X) = 2.286(bit/symbol)
(bit/symbol)
(6) 四、已知信源的概率分布P(X) ={0.6,0.4}，信道的信道矩阵P(Y/X) =
；①求信宿Y的香农熵H(Y)；②求噪声熵H(Y/X)；③求平均互信息量I(X;Y)。（12分） ①p(y1) = p(y2) = 0.5; H(Y) = 1(bit/symbol) (4) ②H(Y/X) = 0.818(bit/symbol) (4) ③I(X;Y) = H(Y)-H(Y/X) = 0.182(bit/symbol) (4) 五、已知信道矩阵P(Y/X) =
；①该信道为什么信道？②求该信道的信道容量C，并说明达到信道容量时信源的概率分布P(X)。（8分） ①行可排列、列可排列，对称信道 (2) ②C = 0.290(bit/symbol) (4) p(x1) = p(x2) = p(x3) =
(2) 六、已知(5,2)线性分组码的校验矩阵H =
；①求生成矩阵G及编出的码字；②求最小码距dmin并说明其纠错能力。（12