模式识别实验报告-实验一-Bayes分类器设计

实验一Bayes分类器设计【实验目的】对模式识别有一个初步的理解，能够根据自己的设计对贝叶斯决策理论算法有一个深刻地认识，理解二类分类器的设计原理。【实验原理】最小风险贝叶斯决策可按下列步骤进行：(1)在已知)(iP，)(iXP，i=1,…，c及给出待识别的X的情况下，根据贝叶斯公式计算出后验概率：cjiiiiiPXPPXPXP1)()()()()(j=1,…，x(2)利用计算出的后验概率及决策表，按下面的公式计算出采取ia,i=1,…，a的条件风险cjjjiiXPaXaR1)(),()(,i=1,2,…,a(3)对(2)中得到的a个条件风险值)(XaRi,i=1,…，a进行比较，找出使其条件风险最小的决策ka，即1,minkiiaRaxRax则ka就是最小风险贝叶斯决策。【实验内容】假定某个局部区域细胞识别中正常（1）和非正常（2）两类先验概率分别为正常状态：P（1）=0.9；异常状态：P（2）=0.1。现有一系列待观察的细胞，其观察值为x：-3.9847-3.5549-1.2401-0.9780-0.7932-2.8531-2.7605-3.7287-3.5414-2.2692-3.4549-3.0752-3.99342.8792-0.97800.79321.18823.0682-1.5799-1.4885-0.7431-0.4221-1.11864.2532已知类条件概率是的曲线如下图：-6-4-2024600.10.20.30.40.50.60.70.8)|(1xp)|(2xp类条件概率分布正态分布分别为N（-2，0.25）、N（2,4）试对观察的结果进行分类。【实验要求】1)用matlab完成基于最小错误率的贝叶斯分类器的设计，要求程序相应语句有说明文字，要求有子程序的调用过程。2)根据例子画出后验概率的分布曲线以及分类的结果示意图。3)如果是最小风险贝叶斯决策，决策表如下：最小风险贝叶斯决策表：状态决策12α104α220请重新设计程序，完成基于最小风险的贝叶斯分类器，画出相应的条件风险的分布曲线和分类结果,并比较两个结果。【实验程序】最小错误率贝叶斯决策分类器设计x=[-3.9847-3.5549-1.2401-0.9780-0.7932-2.8531-2.7605-3.7287-3.5414-2.2692-3.4549-3.0752-3.99342.8792-0.97800.79321.18823.0682-1.5799-1.4885-0.7431-0.4221-1.11864.2532]pw1=0.9;pw2=0.1e1=-2;a1=0.5e2=2;a2=2m=numel(x)%得到待测细胞个数pw1_x=zeros(1,m)%存放对w1的后验概率矩阵pw2_x=zeros(1,m)%存放对w2的后验概率矩阵results=zeros(1,m)%存放比较结果矩阵fori=1:m%计算在w1下的后验概率pw1_x(i)=(pw1*normpdf(x(i),e1,a1))/(pw1*normpdf(x(i),e1,a1)+pw2*normpdf(x(i),e2,a2))%计算在w2下的后验概率pw2_x(i)=(pw2*normpdf(x(i),e2,a2))/(pw1*normpdf(x(i),e1,a1)+pw2*normpdf(x(i),e2,a2))endfori=1:mifpw1_x(i)pw2_x(i)%比较两类后验概率result(i)=0%正常细胞elseresult(i)=1%异常细胞endenda=[-5:0.05:5]%取样本点以画图n=numel(a)pw1_plot=zeros(1,n)pw2_plot=zeros(1,n)forj=1:npw1_plot(j)=(pw1*normpdf(a(j),e1,a1))/(pw1*normpdf(a(j),e1,a1)+pw2*normpdf(a(j),e2,a2))%计算每个样本点对w1的后验概率以画图pw2_plot(j)=(pw2*normpdf(a(j),e2,a2))/(pw1*normpdf(a(j),e1,a1)+pw2*normpdf(a(j),e2,a2))endfigure(1)holdonplot(a,pw1_plot,'k-',a,pw2_plot,'r-.')fork=1:mifresult(k)==0plot(x(k),-0.1,'b*')%正常细胞用*表示elseplot(x(k),-0.1,'rp')%异常细胞用五角星表示end;end;legend('正常细胞后验概率曲线','异常细胞后验概率曲线','正常细胞','异常细胞')xlabel('样本细胞的观察值')ylabel('后验概率')title('后验概率分布曲线')gridonreturn;实验内容仿真x=[-3.9847,-3.5549,-1.2401,-0.9780,-0.7932,-2.8531,-2.7605,-3.7287,-3.5414,-2.2692,-3.4549,-3.0752,-3.9934,2.8792,-0.9780,0.7932,1.1882,3.0682,-1.5799,-1.4885,-0.7431,-0.4221,-1.1186,4.2532]disp(x)pw1=0.9pw2=0.1[result]=bayes(x,pw1,pw2)最小风险贝叶斯决策分类器设计function[R1_x,R2_x,result]=danger(x,pw1,pw2)m=numel(x)%得到待测细胞个数R1_x=zeros(1,m)%存放把样本X判为正常细胞所造成的整体损失R2_x=zeros(1,m)%存放把样本X判为异常细胞所造成的整体损失result=zeros(1,m)%存放比较结果e1=-2a1=0.5e2=2a2=2%类条件概率分布px_w1:（-2，0.25）px_w2（2,4）r11=0r12=2r21=4r22=0%风险决策表fori=1:m%计算两类风险值R1_x(i)=r11*pw1*normpdf(x(i),e1,a1)/(pw1*normpdf(x(i),e1,a1)+pw2*normpdf(x(i),e2,a2))+r21*pw2*normpdf(x(i),e2,a2)/(pw1*normpdf(x(i),e1,a1)+pw2*normpdf(x(i),e2,a2))R2_x(i)=r12*pw1*normpdf(x(i),e1,a1)/(pw1*normpdf(x(i),e1,a1)+pw2*normpdf(x(i),e2,a2))+r22*pw2*normpdf(x(i),e2,a2)/(pw1*normpdf(x(i),e1,a1)+pw2*normpdf(x(i),e2,a2))endfori=1:mifR2_x(i)R1_x(i)%第二类比第一类风险大result(i)=0%判为正常细胞（损失较小），用0表示elseresult(i)=1%判为异常细胞，用1表示endenda=[-5:0.05:5]%取样本点以画图n=numel(a)R1_plot=zeros(1,n)R2_plot=zeros(1,n)forj=1:nR1_plot(j)=r11*pw1*normpdf(a(j),e1,a1)/(pw1*normpdf(a(j),e1,a1)+pw2*normpdf(a(j),e2,a2))+r21*pw2*normpdf(a(j),e2,a2)/(pw1*normpdf(a(j),e1,a1)+pw2*normpdf(a(j),e2,a2))R2_plot(j)=r12*pw1*normpdf(a(j),e1,a1)/(pw1*normpdf(a(j),e1,a1)+pw2*normpdf(a(j),e2,a2))+r22*pw2*normpdf(a(j),e2,a2)/(pw1*normpdf(a(j),e1,a1)+pw2*normpdf(a(j),e2,a2))%计算各样本点的风险以画图endfigure(1)holdonplot(a,R1_plot,'b-',a,R2_plot,'g*-')fork=1:mifresult(k)==0plot(x(k),-0.1,'b^')%正常细胞用上三角表示elseplot(x(k),-0.1,'go')%异常细胞用圆表示end;end;legend('正常细胞','异常细胞','Location','Best')xlabel('细胞分类结果')ylabel('条件风险')title('风险判决曲线')gridonreturn实验内容仿真x=[-3.9847,-3.5549,-1.2401,-0.9780,-0.7932,-2.8531,-2.7605,-3.7287,-3.5414,-2.2692,-3.4549,-3.0752,-3.9934,2.8792,-0.9780,0.7932,1.1882,3.0682,-1.5799,-1.4885,-0.7431,-0.4221,-1.1186,4.2532]disp(x)pw1=0.9pw2=0.1[R1_x,R2_x,result]=danger(x,pw1,pw2)【实验结果和数据】最小错误率贝叶斯决策后验概率曲线与判决结果在一张图上：后验概率曲线如图所示，带*的绿色曲线为判决成异常细胞的后验概率曲线；另一条平滑的蓝色曲线为判为正常细胞的后验概率曲线。根据最小错误概率准则，判决结果见曲线下方，其中“上三角”代表判决为正常细胞，“圆圈”代表异常细胞。各细胞分类结果：0000000000000101110001010为判成正常细胞，1为判成异常细胞-5-4-3-2-1012345-0.200.20.40.60.811.2细胞的观察值后验概率后验概率分布曲线正常细胞异常细胞图1基于最小错误率的贝叶斯判决最小风险贝叶斯决策风险判决曲线如图2所示，其中带*的绿色曲线代表异常细胞的条件风险曲线；另一条光滑的蓝色曲线为判为正常细胞的条件风险曲线。根据贝叶斯最小风险判决准则，判决结果见曲线下方，其中“上三角”代表判决为正常细胞，“圆圈“代表异常细胞。各细胞分类结果：100000000000110111000101其中，0为判成正常细胞，1为判成异常细胞-5-4-3-2-1012345-0.500.511.522.533.54细胞分类结果条件风险风险判决曲线正常细胞异常细胞图2基于最小风险的贝叶斯判决【实验分析】由最小错误率的贝叶斯判决和基于最小风险的贝叶斯判决得出的图形中的分类结果可以看出，样本-3.9934、-3.9847在前者中被分为“正常细胞”，在后者中被分为“异常细胞”，分类结果截然不同。因为在给予最小风险的贝叶斯判决中，影响决策结果的因素多了一个“损失”。可以看出，在图1中，这两个样本点下两类决策的后验概率相差很小，当结合最小风险贝叶斯决策表进行计算时，“损失”就起了主导作用，导致出现了相反的结果。另外，最小错误率贝叶斯决策就是在0-1损失函数条件下的最小风险贝叶斯决策，即前者是后者的特例。实验二基于Fisher准则线性分类器设计【实验目的】本实验旨在让同学进一步了解分类器的设计概念，能够根据自己的设计对线性分类器有更深刻地认识，理解Fisher准则方法确定最佳线性分界面方法的原理，以及Lagrande乘子求解的原理。【实验条件】Matlab软件【实验原理】线性判别函数的一般形式可表示成0)(wXWXgT其中dxxX1d21根据Fisher选择投影方向W的原则，即使原样本向量在该方向上的投影能兼顾类间分布尽可能分开，类内样本投影尽可能密集的要求，用以评价投影方向W的函数为：2221221~~)~~()(SSmmWJF)(211*mm