信息论第三章答案

3.2.设二元对称信道的传的矩阵
。 （1）、若P（0）=
,P(1)=
,求H(X),H(X/Y),H(Y/X)和I(X;Y); （2）、求该信道的信道容量及其达到信道容量时的输入概率分布。 解：(1)、H(X)=-
H(Y/X) =-
=-(
) = 0.92bit/symbol P
=
=0.58 同理可得：p(
)=0.42 H (Y)=-(0.42×log0.42+0.58×log0.58)=0.980bit/symbol 得：H(X/Y)=H(X)-H(Y)+H(Y/X)=0.81-0.98+0.92=0.75bit/symbol I(X;Y)=H(X)-H(X/Y)=0.81-0.75=0.06bit/symbol (2)由题：C=maxI(X;Y)=logm-
=log2-(
)=0.082bit/symbol 因为信道容量达到最大值即X等概率出现即：p(
)=
3.6、有一个二元对称信道，其信道矩阵为
。设该信源以1500二元符号/每秒的速度传输输入符号。现有一消息序列共有14000个二元符号，并设P(0)=P(1)=
,问从消息传输的角度来考虑，10秒钟内能否将这些消息序列无失真的传递完？ 解：由题得： C=max[H(Y)-
]=log2-
=1+0.98log0.98+0.02log0.02=0.859bit/symbol 即每输入一个信道符号，接收到的信息量是0.859bit,已知信源输入1500二元符号/每秒，那么每秒钟的信息量是：  EMBED Equation.3 
=(1500symbol/s)×0.859bit/symbol=1288bit/s 10秒钟传输： EMBED Equation.3 
=10 EMBED Equation.3 
=12880bit 传送14000个二元符号，P(0)=P(1)=  EMBED Equation.3 
 则有： EMBED Equation.3 
 =14000×( EMBED Equation.3 
log EMBED Equation.3 
×2)=14000bit 得出： EMBED Equation.3 
﹤ EMBED Equation.3 
 即10秒内不能将消息序列无失真传递完 3.11、已知离散信源 EMBED Equation.3 
，某信道的信道矩阵为 EMBED Equation.3 
试求： （1）、“输入 EMBED Equation.3 
，输出 EMBED Equation.3 
”的概率； （2）、“输出 EMBED Equation.3 
”的概率； （3）、“收到 EMBED Equation.3 
的条件下推测输入 EMBED Equation.3 
”的概率。 解：1）、由题得：p( EMBED Equation.3 
 EMBED Equation.3 
)= EMBED Equation.3 
=0.2×0.2=0.04 2）、p( EMBED Equation.3 
)= EMBED Equation.3 
+p( EMBED Equation.3 
) EMBED Equation.3 
+p( EMBED Equation.3 
)p( EMBED Equation.3 
)+ EMBED Equation.3 
 =0.1*0.4+0.3*0.1+0.2*0.2+0.4*0.2=0.04+0.03+0.04+0.08=0.19 3)、 EMBED Equation.3 
 =0.1*0.1+0.3*0.1+0.2*0.1+0.4*0.4=0.01+0.03+0.02+0.16=0.22 P( EMBED Equation.3 
)= EMBED Equation.3 
= EMBED Equation.3 
=0.136 3.14、试求下列各信道矩阵代表的信道的容量： 1）、 EMBED Equation.3 
 2）、 EMBED Equation.3 
 3）、 EMBED Equation.3 
 解：1）、这个信道是一一对应的无干扰信道：C=logn=log4=2bit/symbol 2)、这是归并性能的无燥信道：C=logm=log3=1.58bit/symbol 3)、扩展性能的无燥信道：C=logn=log3=1.58bit/symbol 3.18、设加性高斯白噪声信道中，信道带宽3KHZ，又设{（信号功率+噪声功率）/噪声功率}=10dB。试计算该信道的最大信息传输速率C EMBED Equation.3 
。 解：C EMBED Equation.3 
=Wlog EMBED Equati