贝叶斯准则

国家重点实验室3.2统计检测理论的基本概念基本要求：充分理解统计检测理论的模型理解几个判决概率的基本概念国家重点实验室二元信号检测模型信源信源的输出称为假设将信源的输出(假设)以一定的概率关系映射到整个观察空间中接收端所有可能观测量的集合将观察空间进行合理划分,使每个观测量对应一个假设判断的方法判决规则观察空间概率转移机构国家重点实验室Example:SourceTransitionmechanismr1H0HObservationSpacen0+2+121414111HpHrR-2-1414102100HpHrRnrHnrH1:1:012141410-1+1NpnR={-2,-1,0,1,2}国家重点实验室0R0R1R0H成立1H成立二元信号检测判决域二元信号的检测问题，可归结为对观察空间的划分问题，即按照一定的准则，将观察空间R分别划分为R0和R1两个子空间。国家重点实验室思考:如果n是均值为零的、方差为2n的高斯随机变量11HRpHr00HRpHr应服从何种分布？22212121exp211nnHrrHRp22212021exp210nnHrrHRp国家重点实验室判决假设0H1H00HH10HH01HH11HH0H1H二元信号判决结果判决假设0H1H00HHP10HHP01HHP11HHP0H1H二元信号判决概率国家重点实验室二、M元信号检测模型信源信源的输出称为假设将信源的输出(假设)以一定的概率关系映射到整个观察空间中接收端所有可能观测量的集合将观察空间进行合理划分,使每个观测量对应一个假设判断的方法判决规则观察空间概率转移机构国家重点实验室0RMR1R0H成立1H成立M元信号检测判决域MH成立国家重点实验室3.3BayesCriterion(贝叶斯准则)基本要求：充分理解平均代价(AverageRisk)的概念贝叶斯准则的判决表达式判决性能分析贝叶斯准则的基本原理：在划分观察空间时，使平均风险最小国家重点实验室一、平均代价的概念和贝叶斯准则通信系统中，二元信号的平均解调错误概率：101010PPPPPe可看出，检测性能，不仅与两种错误判决概率有关，还与信源发送0和1的先验概率有关另外，每做出一种判断，人们要付出的代价也是不同的如何综合考虑上述各种因素来设计好的检测方法？贝叶斯检测，给定各种判决代价因子，且已知各假设的先验概率条件下，使平均代价最小的检测准则。国家重点实验室一、平均代价的概念和贝叶斯准则问题：代价因子如何定义？平均代价如何计算？如何获得最小的平均代价？国家重点实验室一、平均代价的概念和贝叶斯准则1.代价因子的定义对于二元信号统计检测，共有四种事件发生，即00HH01HH11HH10HH00c10c11c01cijc表示假设Hj为真时，判决假设Hi成立所付出的代价注：一般假设0010cc1101cc国家重点实验室一、平均代价的概念和贝叶斯准则2.平均代价的计算平均代价C将由两部分构成，一是信源发送H0假设时，判决所付出的代价C(H0)二是信源发送H1假设时，判决所付出的代价C(H1)1100HCHPHCHPC101010PPPPPe国家重点实验室一、平均代价的概念和贝叶斯准则2.平均代价的计算对于二元信号统计检测，有四种事件发生，即00HH01HH11HH10HH00c10c11c01c因此，011000000HHPcHHPcHC111110011HHPcHHPcHC国家重点实验室一、平均代价的概念和贝叶斯准则2.平均代价的计算由011000000HHPcHHPcHC111110011HHPcHHPcHC1100HCHPHCHPC111110011011000000HHPcHHPcHPHHPcHHPcHPC国家重点实验室一、平均代价的概念和贝叶斯准则3.平均代价取到最小值的条件111110011011000000HHPcHHPcHPHHPcHHPcHPCiRjjidxHxpHHPdxHxpcdxHxpcHPHxpcdxHxpcHPCRRRR101011110110100000国家重点实验室一、平均代价的概念和贝叶斯准则3.平均代价取到最小值的条件dxHxpcdxHxpcHPdxHxpcdxHxpcHPCRRRR101011110110100000011RjRjdxHxpdxHxp1RjdxHxpdxHxpcdxHxpcHPdxHxpcdxHxpcHPCRRRR00001111011010000011国家重点实验室一、平均代价的概念和贝叶斯准则3.平均代价取到最小值的条件dxHxpcdxHxpcHPdxHxpcdxHxpcHPCRRRR00001111011010000011合并dxHxpcdxHxpccHPdxHxpcdxHxpccHPCRRRR00001111011110100001001dxHxpccHPHxpccHPHPcHPcCR0000100111011111010合并国家重点实验室一、平均代价的概念和贝叶斯准则3.平均代价取到最小值的条件dxHxpccHPHxpccHPHPcHPcCR0000100111011111010010HPc111HPc和是两项固定值。0111011HxpccHP0000100HxpccHP因此，平均代价C的大小与判决区域R0有关。把使被积函数取负值的观察值x值划分给R0区域，而把其余的观察值x值划分给R1，即可保证平均代价最小。国家重点实验室一、平均代价的概念和贝叶斯准则4.贝叶斯判决准则dxHxpccHPHxpccHPHPcHPcCR0000100111011111010把使被积函数取负值的观察值x值划分给R0区域，而把其余的观察值x值划分给R1，即可保证平均代价最小。000100111011HxpccHPHxpccHP判决H0假设成立000100111011HxpccHPHxpccHP判决H1假设成立110110010001ccHPccHPHxpHxp判决H0假设成立110110010001ccHPccHPHxpHxp判决H1假设成立贝叶斯判决准则国家重点实验室贝叶斯准则基本思路:根据给定的代价计算平均代价按照平均代价最小划分观察空间,得到判决准则对判决表达式进行化简一、平均代价的概念和贝叶斯准则国家重点实验室二、贝叶斯检测的进一步说明11011001000110ccHPccHPHxpHxpHH贝叶斯判决准则01HxpHxpxldef定义为似然比函数1101100100ccHPccHPdef定义为判决门限10HHxl是一维随机变量，称为检验统计量xl不依赖于假设的先验概率，也与代价因子无关，适用于不同先验概率和不同代价因子的最佳信号检测。国家重点实验室二、贝叶斯检测的进一步说明11011001000110ccHPccHPHxpHxpHH利用贝叶斯判决准则进行检测的基本步骤：步骤1：计算两个似然函数，构建似然比步骤2：根据两个假设的先验概率和代价因子，计算判决门限步骤3：利用上式，形成贝叶斯检测基本表达式步骤4：化简国家重点实验室三、贝叶斯检测例题Ex3.1在二元数字通信系统中,假设为H1时,信源输出为常值正电压m,假设为H0时,信源输出输出零电平,信号在传输过程中迭加了噪声n(t),每种信号的持续时间为T,请:(1)若接收端对接收信号x(t)在(0,T)时间内进行1次采样,给出对应的贝叶斯检测准则(2)若接收端对接收信号x(t)在(0,T)时间内进行N次独立采样,给出对应的贝叶斯检测准则.上述两种情况下,噪声采样值ni是均值为零,方差为的高斯噪声2国家重点实验室解：一次采样时步骤1：计算两个似然函数，构建似然比nxH:0nmxH:1由于n是高斯分布随机变量，因此在H0假设下，观察信号x也服从高斯分布，且均值为零，方差为,在H1假设下，观察信号x服从均值为m，方差为的高斯分布。2222202exp21xHxp22212exp21mxHxp国家重点实验室步骤2：根据两个假设的先验概率和代价因子，计算判决门限1101100100ccHPccHP步骤3：形成贝叶斯检测基本表达式1001HHHxpHxp102222222exp212exp21HHxmx步骤4：化简102222expHHmxx2ln210mmxHH国家重点实验室解：N次采样时步骤1：计算两个似然函数，构建似然比NinxHi,,2,1,:0NinmxHi,,2,1,:1由于n是高斯分布随机变量，因此在H0假设下，第i次采样值xi服从高斯分布，且均值为零，方差为,在H1假设下，第i次采样值xi服从均值为m，方差为的高斯分布。2222202exp21iixHxp22212exp21mxHxpiiNiimxHp122212exp21xNiixHp122202exp21x国家重点实验室步骤2：根据两个假设的先验概率和代价因子，计算判决门限1101100100ccHPccHP步骤3：形成贝叶斯检测基本表达式1001HHHpHpxx10122212222exp212exp21HHNiiNiixmx国家重点实验室步骤4：化简10122212222exp212exp21HHNiiNiixmx1021222expHHNiiimxxln2221210HHNiimxNm2ln2110NmmxHHNii2ln12110mNmxNHHNii国家重点实验室Ex3.2考虑以下信号检测问题:NinxHNinxHiiii,,2,1,:,,2,1,:1100其中n1i是均值为零,方差为21的高斯随机变量,n0i是均值为零,方差为的高斯随机变量,且不同采样时刻的加性噪声之间是相互统计独立的.请给出上述问题的贝叶斯检测准则.20国家重点实验室解：N次采样时步骤1：计算两个似然函数，构建似然比Ni