2009-应用信息论基础-张林-Chap-7-54950288

第七章网络信息论第七章网络信息论NetworkInformationTheory2009年12月28日2010年1月4日2010年1月4日©THU2009–Allrightsreserved清华大学电子系－张林7.1网络信息论概述INFORMATIONTHEORYistheconscienceofthetheoryofcommunication;ithasdefinedthe“playingfield”withinwhichiibdiddddicommunicationsystemscanbestudiedandunderstood…itconstitutesascientificsuccessstoryofalmostunparalleledproportionstowhichwepaytributeduringthisgoldenanniversaryyearofitsbirth.aesayyeaotsbt.However,informationtheoryhasnotyetmadeacomparablemarkinthefieldofcommunicationnetworks,thesisterfieldandnaturalextensionofcommunicationtheory,thatistoday,andislikelytoremainformanyyears,thecenterofactivityandattentioninmostinformationtechnologyareas.AnthonyEphremides,BruceHajek,“InformationTheoryandCommunicationNetworks:AnUnconsummatedUnion,”1998.©THU2009–Allrightsreserved2Ephremides等人认为，p等人认为，经典信息论不适用于网络的原因主要有以下两点：经典信息论未考虑信源的突发特性（Bt）„经典信息论未考虑信源的突发特性（Bursty）„经典信息论未考虑延时在“容量－误码率”渐近分析中的影响影响事实上很多其他因素也会导致经典信息论在向网络信息„事实上，很多其他因素也会导致经典信息论在向网络信息论推广过程中遇到困难。)(:YXA),(:22YXB),(:11YXA),(:33YXC©THU2009–Allrightsreserved3),(:44YXD),(:55YXE网络通信模型研究的范式研究的范式„模型…参考系统…参考系统…性能极限…努力的方向模型(分析手段)理论分析（参考系）技术改进技术…努力的方向„设计…如何逼近这个理论的极限(分析手段)（参考系）„评估…将实际设计的系统与参考系统相比较©THU2009–Allrightsreserved4网络信息论研究面临的问题究„网络的模型构建户信息论…多用户信息论…多源接入信道缺乏参考体系„缺乏参考体系…如何选取理论分析的变量，容量域的维数高如何保证全网的效率和用户之间的公平…如何保证全网的效率和用户之间的公平„理论分析的困难网络的分布式造成困难…网络的分布式造成困难…主观因素的羼杂导致理论分析的边界模糊不清©THU2009–Allrightsreserved5评价指标问题：公平与效率评价指标问题公平与效率S1S22userexample2userexampleR1R2p2gettingfairnessS3S4ser2:x2overloadser2:x2ggtoomuchfairnesslineUsEfficiencylineunderloadUs1gettingtoomuchUser1:x1User1:x1•效率线•公平线©THU2009–Allrightsreserved6效率线公平线AIMD„收敛于公平„收敛于效率fairness„收敛于效率„公平性增加的时候增长速度变慢(bIbDx1h+aI,bbx+a)line(x1h,x2h)bIbDx2h+aI)x2User2:(bDx1h,bDx2h)U1efficiencyline©THU2009–Allrightsreserved7User1:x1信息论的多用户推广成功的例子发送接收发送1发送接收1接收接收发送2发送发送接收2接收3发送3..3..发送m..接收m.m多源接入信道广播信道©THU2009–Allrightsreserved8信息论的多用户推广依然未知的例子噪声接收1发送1＋发送2接收2＋噪声中继干扰信道（InterferenceChannel）接收发送网络系统和节点之间的交互模式肯定比这些例子还要复杂接收发送最简单的中继信道¾如何分析？¾需要一个推广的信息理论©THU2009–Allrightsreserved97.2多用户信息论多用户信息论„单用户信道：信道容个实数…信道容量C——一个非零正实数，…信息传输率R——实轴上的区间，RC时存在有效的编码…RC时，存在有效的编码。„多用户信道：信道容量多维空间中的区域的边界信息传输…信道容量C——多维空间中的区域的边界，信息传输率在区域中时，存在有效的编码。„问题„问题…寻找信道容量域——确定多维空间中的区域的边界。…信息传输率在信道容量域中时存在有效的编码（在…信息传输率在信道容量域中时，存在有效的编码（在此编码下信息可以可靠传输）。©THU2009–Allrightsreserved10多用户信息论研究现状多用户信息论研究现状„多址接入信道：研究较为完善，具有反馈的多址接入信道的容量域的确定存在问题确定存在问题。„双向信道：双向信道容量域尚未完全解决，已经得到了可达速率区域的内外界的内外界。„串扰信道：串扰信道尚未完全解决，在某些情况下可以给出上界。„中继信道可以给出信道容量的上界„中继信道：可以给出信道容量的上界。„广播信道：一般广播信道的容量域尚未解决，只解决了一些特殊问题。比如，降阶广播信道，此时信道的统计特性满足：比如，降阶广播信道，此时信道的统计特性满足：)()()(12121yyqxyqxyyq=©THU2009–Allrightsreserved11高斯多用户信道高斯多用户信道„首先回顾一下香农公式„离散时间的AWGN信道可以描述为„其中Zi是独立同分布的高斯随机变量，信号总功率为P，即„信道的容量C为跑遍所有满足上述约束的X的分布求得的I(X;Y)的最大值，为©THU2009–Allrightsreserved12多址接入信道多接信道„信道描述„信道容量域是一个m维空间中的多边形多址接入信道：卫星上行信道二元多址接入信道模型©THU2009–Allrightsreserved13一个特殊的例子个特殊的例子例7.1：假定输入为X1=X2={0,1}，输出为Y=X1+X2。当输出Y0或Y2时没有歧义但是当Y1时存在(01)和Y=0或Y=2时，没有歧义，但是当Y=1时，存在(0,1)和(1,0)两种可能性。等效的二元删除信道信道容量域©THU2009–Allrightsreserved14等效的二元删除信道信道容量域高斯多址接入信道„设所有信源独立，功率为P，信道容量域为高斯多接信道式中©THU2009–Allrightsreserved15高斯多址接入信道与信道复用技术高斯多接信道与信道复用技术„对于高斯多址接入信道，当m→∞时，信道容量→∞。„实际使用的复用方式…FDMA…TDMA…CDMA©THU2009–Allrightsreserved16广播信道广播信道„电视广播服务„课堂中教室与学生间的信息传递„CryingBaby问题广播信道模型©THU2009–Allrightsreserved17广播信道：地面数字电视传输广播信道模型正交广播信道交广播信道„例7.2:最简单的广播信道由两个独立的信道组成，每个信道分配给一个接收者。显然，这样一个信道的容量域入下图所示问题：那么是不是把信道简单的分配给道简单的分配给若干个用户就是广播信道的最佳容量域方案了呢？©THU2009–Allrightsreserved18正交分配的广播信道容量域叠加信息叠加信息„例7.3:如图所示，讲演者可以讲西班牙语和荷兰语，但是两个听众各自只能听懂一种语言。假设讲演者每秒说一个单词，两种语言各有220个单词则信息传递速率为20bit/sec两种语言各有220个单词，则信息传递速率为20bit/sec。…通过时分复用，R1+R2=20bps为显然的…通过时分复用，R1R220bps为显然的容量域边界…但仅止于此吗？听众虽然听不懂但是他DutchSpanish…Dutch听众虽然听不懂Spanish，但是他知道Speaker在讲Spanish…同理，Spanish听众也一样同理，Spas听众也样…这传递了1bit/sec的信息©THU2009–Allrightsreserved19退化广播信道退化广播信道„一般情况下广播信道的容量依然没有得到解决，但是已知它仅与(|)(|)有关p(y1|x),p(y2|x)有关„退化的广播信道下容量域已经得到解决。称广播信道是退化的当„称广播信道是退化的，当高斯广播信道是退化的„高斯广播信道是退化的11~(0,)ZNN+XY1+Y222~(0,)ZNN©THU2009–Allrightsreserved20高斯广播信道的容量高斯广播信道的容量„高斯广播信道可以被看作是退化的广播信道„其容量域为„其中©THU2009–Allrightsreserved217.3无线网络容量域线„Stanford的S.Toumpis和A.Goldsmith在2002年完成的工作，发表于2003年的IEEETrans.onWirelessComm.上。„利用数值计算的方法给出了无线自组织网络的容量域特性。„我们在这个工作的基础上向前推进了一步，给出了全网能量受限条件下容量域的仿真结果（杨卫了全网能量受限条件下容量域的仿真结果（杨卫华，2002届硕士）©THU2009–Allrightsreserved22网络模型„全网由n个完全平等的半双工节点组成：A1…An，节点有无限大的缓冲区，共用一个带宽为W的信道。共用个带宽为的信道„定义功率向量P=[P1P2…Pn]T,代表每个节点的发射功率。„定义信道增益矩阵G={Gij},表示节点之间的信道增益。定义信道增益矩阵G{Gij},表示节点之间的信道增益。„定义噪声功率谱密度向量H=[η1η2…ηn]T，表示每个节点处的AWGN，包含热噪声和背景噪声。„这样，节点i的发射信号在节点j处的SINR为iijPG„根据香农公式，i、j之间的信息传输速率可达：∑≠∈+=ikTkkkjjiijijPGW,ηγ根据香农公式，i、j之间的信息传输速率可达：)1(log)(2ijijijWfRγγ+==©THU2009–Allrightsreserved23基本速率矩阵对于个有个节点的网络和种传输方案„对于一个有n个节点的AdHoc网络和一种传输方案，如下定义基本速率矩阵，}{}{ijRR=⎧是源节点接收信息如果AAR其中⎪⎪⎨⎧−=是源节点发送信息，，如果是源节点接收信息，，如果ijijijAARAARR⎪⎩，其它情况0©THU2009–Allrightsreserved24对速率矩阵的解释不同的速率矩阵代表不1.不同的速率矩阵代表不同的传输模式和信源⎥⎥⎥⎥⎤⎢⎢⎢⎢⎡−−=10100000000010101R⎥⎥⎥⎥⎦⎤⎢⎢⎢⎢⎣⎡−−=000010001000000101002R2.不同的时分复用方案得⎥⎦⎢⎣0000⎥⎦⎢⎣0000不同的时分复用方案得到不同的信息流速率520750RR+和5050RR+2152.075.0RR+和215.05.0RR+©THU2009–Allrightsreserved25AdHoc网络的容量域的定义==NNniiRCoRCC})({})({P∩∑∑=≥=NNniiiiaaRa}1,0:{P∩==ii11•Pn是所有非对角元素非负的矩阵集合•Co{R}代表基本基速率矩阵集合{R}的凸包•Co{R