PR上机实验2

模式识别上机实验2：参数估计及两分类问题专业：数学与应用数学学号：姓名：给定2维样本500个，存放在文件“500样本.txt”中，其中前300个是属于第一类的样本，接着200个是属于第二类的样本（第一列为样本的类别）。假设两类样本均来自正态总体，试分别估计其参数，分别就一下两种假设求出各参数的估计，决策函数和决策规则并对如下五个未知类别的样本进行分类（有图像则更佳）。1．1212,()()PP，参数：6.89520.66733.92871.6473215198.75557.45557.42150.421决策函数：021)(xxwxgxgxgT其中，21021121,xw决策规则：当g(x)0,x属于第一类,否则x属于第二类2．1212,()()PP参数：6.89520.66733.92871.6473214506.36422.16422.19951.12326.104981.64981.66950.521决策函数：2010212121)(wwxwwxWWxxgxgxgTT其中，121iiWiiiw12,1lnln212110iwPwiiiiTii决策规则：当g(x)0,x属于第一类,否则x属于第二类5个未知样本在两种假设下的类别：1)类别2)类别1x2x-1.02213.21555.000010.0002.43444.32103.19328.7089-0.62121.82531、实验过程最小错误率贝叶斯决策规则常有四种方法：（1）ijjwxxwPxwP则),|(max)|(2,11（2）ijjjiiwxwPwxpwPwxp则),()|(max)()|(2,1（3）211221,)()()|()|()(wwxwPwPorwxpwxpxl则（4）212211),(ln)|(ln)(ln)|(lnwwxwPwxporwPwxp则在多元正态函数中采用上述中方法（4），iiiwxp,~|，可得到多元正态型下的最小错误率贝叶斯判别函数为iiiiwPdxRxglnln212ln2,212其中ixR,表示x到i的马氏距离，i是协方差矩阵，iwP为先验概率。决策面方程为xgxgji决策函数为xgxgxgjijijijiwPwPxRxRlnln21],,[2122决策结果为0,0,xgwxgwxji参数估计该题为二元正态分布，yxx,，其密度函数为xxTexf12121即22222121212122121221121,yyxxeyxf由二元正态参数估计可知DYDXYX2121,,,EYYEXXEYX),cov(21题所给的两个样本可得到各样本的密度函数参数见下表：11样本一1.64733.92875.71406.51986.519810.2668样本二0.68236.89522.11541.68271.68273.4679求出各参数就可以得到两个样本的分布密度函数，把其绘制成二维图像如下，其中*号代表的是第二类样本点，o号代表第一类样本点。-4-20246810-4-2024681012求未知类别的样本到各样本的21,的马氏距离1x2x到样本一的马氏距离到样本二的马氏距离马氏距离决策结果-1.02213.21551.78081.9772属于样本一5.000010.0001.93672.9772属于样本一2.43444.32100.4462.9741属于样本一3.19328.70891.90681.731属于样本二-0.62121.82530.99182.9054属于样本一最小错误率贝叶斯判别1x2xxg决策结果-1.02213.21550.1359属于样本一5.000010.0002.3234属于样本一2.43444.32104.0899属于样本一3.19328.7089-0.553属于样本二-0.62121.82533.4958属于样本一2、实验代码样本yangbenzhi.myangben=[1.00002.18393.0859……2.0000-0.06948.1524];yangben1=yangben(1:300,:,:);yangben2=yangben(301:500,:,:);参数求解canshu.mfunction[US]=canshu(YB)X=YB(:,2);Y=YB(:,3);U=[mean(X);mean(Y)];S=cov(X,Y);正态密度函数f.mfunctionz=f(X,S,U)d=size(S);d=d(1);z=(2*pi)^(d/2)*sqrt(det(S))*exp(-1/2*(X-U)'*S^-1*(X-U));马氏距离mashijuli.mfunctionR=mashijuli(X,U,S)R=sqrt((X-U)'*S^-1*(X-U));用马氏距离判别MSJL.mYB=[-1.02213.21555.000010.0002.43444.32103.19328.7089-0.62121.8253];yangbenzhi;[U1S1]=canshu(yangben1);[U2S2]=canshu(yangben2);R=[];JG=[];fori=1:5R1=mashijuli(YB(i,:)',U1,S1);R2=mashijuli(YB(i,:)',U2,S2);R=[R;R1R2];ifR1R2JG=[JG;'属于样本二'];elseJG=[JG;'属于样本一'];endenddisp('马氏距离为：');disp(R);disp('马氏距离决策结果为：');disp(JG);绘制样本二维图像HZTX.myangbenzhi;X1=yangben1(:,2);Y1=yangben1(:,3);X2=yangben2(:,2);Y2=yangben2(:,3);plot(X1,Y1,'*',X2,Y2,'o');[U1S1]=canshu(yangben1);[U2S2]=canshu(yangben2);x=linspace(-5,9,200);y=linspace(-5,12,200);fori=1:200forj=1:200zf1(i,j)=f([x(i)y(j)]',S1,U1);zf2(i,j)=f([x(j)y(i)]',S2,U2);endendholdon;contour(x,y,zf1,16);contour(x,y,zf2,16);holdoff;最小错误率贝叶斯决策ZXBYS.mYB=[-1.02213.21555.000010.0002.43444.32103.19328.7089-0.62121.8253];PW1=0.6;PW2=0.4;yangbenzhi;[U1S1]=canshu(yangben1);[U2S2]=canshu(yangben2);JG=[];fori=1:5R1=mashijuli(YB(i,:)',U1,S1);R2=mashijuli(YB(i,:)',U2,S2);G(i)=-1/2*(R1^2-R2^2)-1/2*log(det(S1)/det(S2))+log(PW1/PW2);ifG(i)0JG=[JG;'属于样本一'];elseJG=[JG;'属于样本二'];endenddisp('G(X)为：');disp(G');disp('最小贝叶斯错误率决策结果为：');disp(JG);3、实验结果马氏距离判别1x2x到样本一的马氏距离到样本二的马氏距离马氏距离决策结果-1.02213.21551.78081.9772属于样本一5.000010.0001.93672.9772属于样本一2.43444.32100.4462.9741属于样本一3.19328.70891.90681.731属于样本二-0.62121.82530.99182.9054属于样本一最小错误率贝叶斯判别1x2xxg决策结果-1.02213.21550.1359属于样本一5.000010.0002.3234属于样本一2.43444.32104.0899属于样本一3.19328.7089-0.553属于样本二-0.62121.82533.4958属于样本一4、教师评语