信号与系统习题

1，某系统（7，4）码)()(01201230123456cccmmmmcccccccc其三位校验位与信息位的关系为：231013210210cmmmcmmmcmmm（1）求对应的生成矩阵和校验矩阵；（2）计算该码的最小距离；（3）列出可纠差错图案和对应的伴随式；（4）若接收码字R=1110011，求发码。解：（1）1000110010001100101110001101G101110011100100111001H（2）dmin=3（3）SE00000000000010000001010000001010000001001010001000111001000001101000001101000000（4）.RHT=[001]接收出错E=0000001R+E=C=1110010(发码)2.已知,XY的联合概率,pxy为：求HX，HY，,HXY，;IXY解:(0)2/3px(1)1/3px(0)1/3py(1)2/3py(1/3,2/3)HXHYH0.918bit/symbol,(1/3,1/3,1/3)HXYH=1.585bit/symbol01XY011/31/301/3;()()(,)IXYHXHYHXY0.251bit/symbol3.一阶齐次马尔可夫信源消息集},,{321aaaX，状态集},,{321SSSS，且令3,2,1,iaSii，条件转移概率为03132313131214141)/(ijSaP，(1)画出该马氏链的状态转移图；(2)计算信源的极限熵。解：(1)（2）1321323112123312311411332231141→3.03.04.0321(X|S1)=H(1/4,1/4,1/2)=1.5比特/符号H(X|S2)=H(1/3,1/3,1/3)=1.585比特/符号H(X|S3)=H(2/3,1/3)=0.918比特/符号3|0.41.50.31.5850.30.9181.3511HwHXSiii比特/符号4.若有一信源2.08.021xxPX，每秒钟发出2.55个信源符号。将此信源的输出符号送入某一个二元信道中进行传输（假设信道是无噪无损的，容量为1bit/二元符号），而信道每秒钟只传递2个二元符号。（1）试问信源不通过编码（即x10,x21在信道中传输）（2）能否直接与信道连接？（3）若通过适当编码能否在此信道中进行无失真传输？（4）试构造一种哈夫曼编码(两个符号一起编码)，（5）使该信源可以在此信道中无失真传输。解：（1）不能，此时信源符号通过0，1在信道中传输，2.55二元符号/s2二元符号/s（2）从信息率进行比较，2.55*(0.8,0.2)H=1.841*2可以进行无失真传输（3）410.640.16*20.2*3iiiKpK1.56二元符号/2个信源符号此时1.56/2*2.55=1.989二元符号/s2二元符号/s5.两个BSC信道的级联如右图所示：（1）写出信道转移矩阵；（2）求这个信道的信道容量。解：（1）22122211(1)2(1)112(1)(1)PPP（2）22log2((1))CH6.设随机变量}1,0{},{21xxX和}1,0{},{21yyY的联合概率空间为8/18/38/38/1),(),(),(),(22122111yxyxyxyxPXYXY定义一个新的随机变量YXZ(普通乘积)（1）计算熵H（X），H（Y），H（Z），H（XZ），H（YZ），以及H（XYZ）；（2）计算条件熵H（X|Y），H（Y|X），H（X|Z），H（Z|X），H（Y|Z），H（Z|Y），H（X|YZ），H（Y|XZ）以及H（Z|XY）；x1x1x1x2x2x1x2x20.640.160.160.0410111001010.640.20.1601010.640.36010101011111（3）计算平均互信息量I（X；Y），I（X：Z），I（Y：Z），I（X；Y|Z），I（Y；Z|X）以及I（X：，Z|Y）。解：（1）12log2/12log2/1)(12log2/12log2/1)(2222YHXH8/1008/308/308/1111110101100011010001000XYZ8/18/710Z8log8/1)7/8(log8/7)(22ZH8/18/302/111100100XZ8log8/1)3/8(log8/32log2/1)(222XZH8/18/302/111100100YZ8log8/1)3/8(log8/32log2/1)(222YZH（2）))3/4(log4/34log4/1(2/1))3/4(log4/34log4/1(2/1)|(2222YXH))3/4(log4/34log4/1(2/1))3/4(log4/34log4/1(2/1)|(2222XYH)1log10log0(8/1))3/7(log7/3)4/7(log7/4(8/7)|(2222ZXH)4log4/1)3/4(log4/3(2/1)0log01log1(2/1)|(2222XZHX\Y0101/83/81/213/81/81/21/21/2X\Z0101/201/213/81/81/27/81/8Y\Z0101/201/2)1log10log0(8/1))3/7(log7/3)4/7(log7/4(8/7)|(2222ZYH)4log4/1)3/4(log4/3(2/1)0log01log1(2/1)|(2222YZH)0log01log1(8/1)0log01log1(8/3))3/4(log4/34log4/1(2/1)|(222222YZXH)0log01log1(8/1)0log01log1(8/3))3/4(log4/34log4/1(2/1)|(222222XZYH0)|(XYZH(3))|()();(YXHXHYXI)|()();(ZXHXHZXI)|()();(ZYHYHZYI)|()|()|;(YZXHZXHZYXI)|()|()|;(ZYXHYXHYZXI7.设二元对称信道的输入概率分布分别为]4/14/3[][XP，转移矩阵为3/23/13/13/2|XYP，（１）求信道的输入熵，输出熵，平均互信息量；（２）求信道容量和最佳输入分布；（３）求信道剩余度。解：（1）信道的输入熵4log4/1)3/4(log4/3)(22XH；6/112/14/12/1][XYP]12/512/7[][YP)5/12(log12/5)7/12(log12/7)(22YH)6/1,12/1(4/1)4/1,2/1(4/3)|(HHXYH13/81/81/27/81/8)|()();(XYHYHYXI（2）最佳输入分布为]2/12/1[][XP，此时信道的容量为)3/1,3/2(1HC(3)信道的剩余度：);(YXIC8.25.025.05.0XP，试确定最佳译码规则和极大似然译码规则，并计算出相应的平均差错率。解：8/124/112/112/18/124/112/16/14/1][XYP最佳译码规则：331211)()()(abFabFabF，平均差错率为1-1/4-1/6-1/8=11/24；极大似然规则：332211)()()(abFabFabF，平均差错率为1-1/4-1/8-1/8=1/2。9.设有一批电阻，按阻值分70%是2kΩ，30%是5kΩ；按功耗分64%是1/8W，36%是1/4W。现已知2kΩ电阻中80%是1/8W，假如得知5kΩ电阻的功耗为1/4W，问获得多少信息量。解：根据题意有3.07.05221krkrR，36.064.04/128/11，8.0)1/1(rwp由15/4)2/1()2/1()2()1/1()1()1(rwprwprprwprpwp所以15/11)2/1(1)2/2(rwprwp得知5kΩ电阻的功耗为1/4W，获得的自信息量为))2/2((rwplb0.448bit10.已知6符号离散信源的出现概率为321321161814121654321aaaaaa，试计算它的熵、Huffman编码和费诺编码的码字、平均码长及编码效率。解：该离散信源的熵为323213232116161881441221)()(61lblblblblblbplbpxHiii=1.933bit/符号11.在图片传输中，每帧约有2106个像素，为了能很好地重现图像，每像素能分256个亮度电平，并假设亮度电平等概分布。试计算每分钟传送两帧图片所需信道的带宽（信噪功率比为30dB）。解：每个像素点对应的熵8256loglog22nHbit/点2帧图片的信息量bitHNI7610*2.38*10*2*2**2单位时间需要的信道容量sbittICt/10*3.56010*2.357由香农信道容量公式HzSNRCWSNRWCtt4252210*35.5)10001(log10*3.5)1(log)1(log12.求右图所示的信道的容量及达到信道容量时的输入分布。解：由右图可知，该信道的转移概率矩阵为102/12/101P可以看到，当该信道的输入分布取2/102/1)(321aaaXP时，2/12/1)(21bbYP此时2);(2)()/(log)/();(311211lbYaXIlbbpabpabpYaXIjjjj同理可得，而0);(2YaXI，此分布满足00);(02);(iiiipYxIplbYxI。因此这个信道的容量为C=lb2=1（bit/符号），而达到信道容量的输入分布可取2/102/1)(321aaaXP。Dmax=414,3,2,1miniijijdp，由于ijidp和具有对称性，每个和式结果都为1/2，因此Dmax=1/2，13.设离散信源ppppUUUUupU21)1(21)1(2121)(4321（其中21p）和接收变量V={v1，v2，v3，v4}，失真矩阵为05.05.015.0015.05.0105.015.05.00D，求Dmin，Dmax、R（Dmin）、R（Dmax）、达到Dmin和Dmax时的编码器转移概率矩阵P。11/21/21XYb1b2a1a2a3解：由于失真矩阵每行每列都只有一个最小值“0”，所以可以达到Dmin=0，此时对应的信道转移概率矩阵应使得信源的每个输出经过信道转移后失真为0，即选择1000010000100001P。R（Dmin）=R（0）=H(U)=1-p*logp–(1-p)*log(1-p)=1+H(p)。对应的转移概率矩阵可取任意1列为全1，如0001000100010001P，此时R（Dmax）=R（1/2）=0。14.设有一个二进制一阶马尔可夫信源，其信源符号为X∈(0,1)，条件概率为p(0/0)=p(1/0)=