假设检验和判决准则

第三讲假设检验和判决准则第三章信号的检测主要解决在受噪声干扰的观测中信号有无的判决问题。通信与测量系统（包括雷达系统）的基本任务，就是在噪声背景下检测信号的存在并估计信号的参量。在统计学上都属于统计决策问题，我们希望所做出的判决引起的损失最小。•门限,后验概率,似然函数•最大后验概率准则•贝叶斯准则•最小错误概率准则•极大极小准则•涅曼-皮尔逊准则§3·1引言判断{{{二选一多选一混合信源判决规则噪声判决观测空间(1)信号和噪声之间允许有复杂的关系；(2)但噪声的概率密度是已知的；(3)允许非线性处理。在这些条件下,信号有无的判决是一个一般化的信号检测问题.这可以应用统计学中的假设检验理论来解决.假设检验理论不但可以解决象雷达,通信等信号发现问题的优化处理,也可以解决信号参量的最优估值问题.这一章将利用假设检验理论,给出判断信号有无的方法。假设检验•假设:一个可能判决的陈述。原假设备选假设1备选假设2:备选假设n根据观测数据和判决准则对各个假设进行统计检验，判决哪个假设成立。3·2二元假设检验和判决准则•假设检验的目的:在受扰观察中判别有无（是否包含）有用信号。由于受扰观察中包含了噪声,而噪声是随机的,就是说它的取值带有偶然性,因此,就不能肯定地说它是否包含信号,也不能肯定地说它包含哪一个信号,更不好说它包含有什么样参量的信号.在这种情况下,必须使用统计学中的假设检验理论实现信号的正确判决.假设检验的基本方法：•对所要检测对象的可能状态或情况作出相应的假设:例如假设受扰观察信号只有两种状态,(只包含噪声),或(包含了信号与噪声).•确定信号判决的优化准则(即判决信号有无的依据):例如使用后面介绍的贝叶斯优化准则。•观察信号,观察时间假设为[0,T];•对进行分析处理,根据确定的优化准则判决假设中的哪一个是所要的解答,例如根据优化准则来选择。这是一种统计处理的方法,由于存在干扰,判决选择是不会绝对正确的,可能会发生错判.但是利用假设检验的方法可以得到一个明确的答案,而且对解答还可以给出可信程度的概率度量.二元数字通信(二元假设检验):观测波形：Tt0)t(n)t(s)t(xi≤≤+=H0：假设存在；（原假设）)()(:)(10tststsin(t):加性噪声)(0ts)(1tsH1：假设存在。（备择假设）二元假设检验二元假设检验)()()(:00tntstxH+=)()()(:11tntstxH+=观测波形x(t)在观测空间是一维。s0s1代表两个已知的常数；x、n是随机变量nstxH+=00)(:nstxH+=11)(:最大后验概率准则条件概率：(后验概率))(11xHPHx的概率存在的条件下：在)(00xHPHx的概率存在的条件下：在只需在两个假设或中选择一个,而或假设是互不相容的(二者必居其一)。合理的判决准则是:观察结果与哪一个假设同时存在的概率大,就选择哪一个假设。由于上面的判决准则涉及两个后验概率,而且选择对应最大后验概率的假设,所以这个判决的优化准则称为最大后验概率准则.成立判决101H1)xH(P)xH(P≥成立判决001H1)xH(P)xH(P1)()(0101HHxHPxHP先验概率（已知）：qHP=)(0pHP=)(1)()()()(xpHPHxpxHPiii＝贝叶斯公式qHxppHxpHPHxpHPHxpxHPxHP)()()()()()()()(01001101==是条件概率密度,称为似然函数)(),(01HxpHxp1)()(10=+=qpHPHP＋二元假设检验：似然比：l(x)门限值00101)()()(lpqHHHxpHxpxl==pql=0通过分析与变换,得到了一个与最大后验概率准则等价的判决规则.这个判决规则利用了一个新的统计量:似然比,判决的规则也便于计算和处理.似然比性质1.似然比是非负的；2.似然比是一维的标量,是随机量；x则可能是多维的,例如包括信号的幅度,相角等等；3.由于x是观测得到的值,所以和是可以通过统计得到。)(1Hxp)(0Hxp从上面的判决式看出,在最大后验概率准则下,门限电平的大小由H1和H0两个假设的先验概率P(H1)和P(H0)决定.从直观上可以知道,H1的先验概率P(H1)越大,即S1(t)存在的机会越多,检测到S1(t)的机会也就越多.而判决式也说明了这一点,当P(H1)大时,门限电平就小,似然比超过门限的可能性就大,就有更多的机会判决S1(t)存在.00101)()()(lpqHHHxpHxpxl==注：•当时P(H0)=P(H1)=1/2,,门限电平为1,此时最大后验概率准则称为最大似然比准则,是最大后验概率准则的特例.•对于二元通信系统(传输的信号或为1,或为0),信号存在的先验概率有时无法知道,不妨假设P(H0)=P(H1)=1/2,此时可以使用最大似然比准则.判决域X0X100)(λ=⇒=xlxlXX00XX11)(1Hxp)(0Hxp0λ00101)()()(lpqHHHxpHxpxl==判决方式：把x横坐标分成XX00和XX11两部分.如果使用作门限判决,判决的方式是：如果观察值x处于XX00范围内,判决H0成立,反之,x处于XX11范围内,判决H1成立.0λ0l检测系统的组成由两部分组成:一是似然比计算装置,二是门限装置。由于存在门限,因此处理器必定是非线性的。)(xl在后面的学习中,将引入不同的优化准则,但不管采用哪种优化准则,检测系统的基本环节都与上图类似:似然比计算(或似然比计算的等效形式)+门限比较.四种情况：1.H0为真，判决H0成立；2.H1为真，判决H1成立；3.H0为真，判决H1成立；4.H1为真，判决H0成立；1、2为正确判决，3、4为错误判决虚警、漏报第1类错误:信号不存在时,判为信号存在.在雷达信号检测中,这种错误称为虚警,用虚警概率α度量。在统计学中,虚警概率称为检验尺度。第2类错误:信号存在条件下,判为信号不存在.这种错误在雷达信号检测中称为漏警,用漏警概率β度量。dxHxpX∫=1)(0αdxHxpX∫=0)(1β两类错误概率的表示XX11XX00发现概率对于信号存在条件下正确判为信号存在概率称为检测概率.雷达信号检测中又称为发现概率.发现概率:指示雷达接收机的性能。在统计学中,发现概率称为检验势。dxHxpPXD∫=1)(1dxHxpPXc∫=0)(0正确检测总错误概率不只与两类错误概率有关,而且与先验概率有关。αβqpPe+=后面的分析指出,如果限定正确判决无代价,错误判决代价相等,为1个单位,则按最大后验概率准则得到的最优处理器的总错误概率最小。因此，最大后验概率准则又称为最小总错误概率准则或理想观测器准则。总错误概率又称为平均错误概率.11=+=+DCPPβα)1()1(CDePqPpP−+−=例题1:假设H1条件下,观测信号由一等幅信号m和高斯噪声n组成,高斯噪声为N(0,σ2);假设H0条件下,观测信号仅是噪声n.当我们获得一个观测值Z后,根据观测值Z,做出两种假设H1/H0的判断.观测信号模型为:H1:Z=m+n,H0:Z=n,解:假定先验概率相等P(H1)=P(H0)=1/2,采用似然比检测准则:]2)(exp[21)/(221σσπmZHZf−−=]2exp[21)/(220σσπZHZf−=]22exp[)/()/()(2201σmmZHZfHZfZl−==因此判决规则为:根据假定先验概率相等P(H1)=P(H0)=1/2,则有)()(]22exp[)(102201HPHPmmZZlHH−=σ两端取对数,化简得])()(ln[22102201HPHPmmZHH−σ201mZHH贝叶斯准则在信号检测中,当依据门限来判决时,有可能造成两种错误判决:第1类错误虚警和第2类错误漏警.这两类错误判决会造成的多大的损失?怎样来评估损失?是一个必须分析研究的问题.dxHxpPXD∫=1)(1dxHxpPXc∫=0)(0dxHxpX∫=1)(0αdxHxpX∫=0)(1β贝叶斯准则的原理(1)首先按照判决总平均损失最小的原则,确定一个信号检验的门限;(2)利用这个门限来判定信号有无.代价和代价函数在许多事例中,各类错误的后果并非同等严重,不同类型的错误所造成的损失或者说所要付出的代价是不相同的。例如雷达信号的检测问题,虚警和漏警的损失就大不相同.一般虚警的损失要比漏警小得多.因为虚警至多多一次战斗戒备,而漏警有可能自己被消灭。在假设检验理论中,对各类错误的概率分别规定不同的代价,即用代价函数来评估错误判决所造成的损失。代价函数（因子）定义：Cij是假设Hj为真,但实际上选择了假设Hi的代价。①代价函数是有正负的.通常错误的判决代价为正,Cij＞0,i≠j.正确的判决代价函数一般是代价函数Cij≤0,i=j,如果正确判决没有代价,则Cjj=0,如果正确判决还有得益,则可以设Cjj＜0,即代价小于0。对于某些特殊的判决,例如地震,即使是正确的判决也要付出费用的,这时候,Cjj＞0。②在许多实际问题中,各类错误的代价函数是难以规定的.例如雷达检测问题,漏警与虚警虽然在原则上也要受到损失,但要定量地规定它们的代价是极其困难的,甚至不可能的.但是代价函数的设定可以方便理论研究,从这点上来说,还是有实际意义的。在给出各种判决的代价之后,就可以评估错误判决的总平均代价。所以对应有4种代价,如下表所示:风险类型代价发生概率代价的含义假设为H0真,且判为H0正确判决(有得益,或无损失)假设为H1真,且判为H1正确判决(有得益,或无损失)假设为H1真,且判为H0漏警损失(有损失)假设为H0真,且判为H1虚警损失(有损失)cPDPβα总平均代价R贝叶斯准则的基本思想是:使各种错判付出的统计平均代价(经济风险)R最小,这一准则称为最小平均风险准则.pPCCqCPCRDC)()(11011000+++=βα贝叶斯准则表达式最小=−+−++=βαpCCqCCpCqCR)()(110100101100最小=−+−=βαpCCqCCR)()(11010010/贝叶斯准则的判决规则假设：最小=+−−=βαpCCqCCR)()(11010010//最小=−+−=βαpCCqCCR)()(11010010/贝叶斯准则等效：C01-C110C10–C000即下式最小：X1判决域必须满足下面规则：∫∫∫⎥⎦⎤⎢⎣⎡−−−−=+−−=101)()()()(1)()()()(01101001011011010010//XXXdxHxppCCqCCHxpdxHxpdxHxppCCqCCR0)()()()(0110100101≥−−−HxppCCqCCHxp11=+=+DCPPβα似然比：门限：)()()(01HxpHxpxl=pCCqCCxl)()()(110100100−−=判决规则：pCCqCCHHHxpHxp)()()()(110100100101−−)()(001xlHHxl讨论：•贝叶斯门限：pCCqCCxl)()()(110100100−−=大虚警损失大(C10是虚警损失)此时,门限大则不易判定有信号,可以使虚警减少。大漏警损失大(C01是漏警损失)此时,门限小则容易判定有信号,可以使漏警减少。C10–C00C01–C11贝叶斯准则和最大后验概率准则的关系•在贝叶斯判决规则中,令:C10–C00=C01-C11,则贝叶斯门限,变为最大-后验概率准则。所以最大后验概率准则是贝叶斯准则的特例。pCCqCCxl)()()(110100100−−=pqxl=)(0例题1:已知f(Z/H0)的分布为N(y0,σ2),f(Z/H1)的分布为N(y1,σ2)，Ci,j,P(Hi)均为已知,i,j=0,1,求贝叶斯准则检测的最佳门限ZT.解:根据已知条件,可以得到:))(())((]2)(exp[21]2)(exp[21)/()/()(11011001000122022101CCHPCCHPHHyZyZHZfHZfZlTTTTT−−−−−−==σσπσσπ))(())((]2)()(2exp[11011