《Fisher准则线性分类器设计》由会员分享，可在线阅读，更多相关《Fisher准则线性分类器设计（12页珍藏版）》请在金锄头文库上搜索。
1、LOGOFisher准则线性分类器设计4内部编号：(YUUTTBBY-MMUT-URRUYUOOYDBUYI0128)基于Fisher准则线性分类器设计1、实验内容:已知有两类数据和冬二者的概率己知9）产，Sb二。中数据点的坐标对应一一如下：数据：数据点的对应的三维坐标为y2=数据的样本点分布如下图：1）请把数据作为样本，根据Fisher选择投影方向W的原则，使原样本向量在该方向上的投影能兼顾类间分布尽可能分开，类内样本投影尽可能密集的要求，求出评价投影方向W的函数，并在图形表示出来。并在实验报告中表示出来，并求使几3）取极大值的用matlab完成Fisher线性分类器的设计，程序的语句要求有
2、注释。2）根据上述的结果并判断（1,属于哪个类别，并画出数据分类相应的结果图，要求画出其在W上的投影。3) 回答如下问题，分析一下W的比例因子对于Fisher判别函数没有影响的原因。2、实验代码xl=；x2二;x3二;%将乂1、x2、x3变为行向量xl二xl(:);x2=x2(:);x3=x3(:);%计算第一类的样本均值向量mlml二mean(xl);ml(2)二mean(x2);ml(3)二mean(x3);%计算第一类样本类内离散度矩阵S1S1二zeros(3,3);for1=1:36SI二S1+-ml(l)+xl(i)-ml(2)+x2(i)-ml(3)+x3(i)*-ml(l)+xl
3、(i)-ml(2)+x2(i)-ml(3)+x3(i);%w2的数据点坐标x4二;x5二;x6二x4=x4(:);x5二x5(:);x6二x6(:);%计算第二类的样本均值向量m2m2二mean(x4);m2(2)二mean(x5);m2(3)=mean(x6);%计算第二类样本类内离散度矩阵S2S2=zeros(3,3);fori=l:36S2=S2+-m2(l)+x4(i)-m2+x5(i)-m2(3)+x6(i)*-m2(l)+x4(i)-m2(2)+x5(i)-m2(3)+x6(i);end%总类内离散度矩阵SwSw二zeros(3,3);Sw二S1+S2;%样本类间离散度矩阵SbSb
4、二zeros(3,3);Sb=(mlm2)*(ml-m2);%最优解WW二Sw=l*(inl-in2)%将W变为单位向量以方便计算投影W=W/sqrt(sum(W.2);%计算一维Y空间中的各类样本均值Ml及M2fori=l:36y(i)二W*xl(i)x2(i)x3(i)l，;endMl=mean(y);fori=l:36y(i)=W*x4(i)x5(i)x6(i);endM2=mean(y);%利用当P(wl)与P(w2)已知时的公式计算WOpl二;p2二；W0=-(Ml+M2)/2+(log(p2/pl)/(36+36-2);%计算将样本投影到最佳方向上以后的新坐标Xl=xl*W(l)+
5、x2*W(2)+x3*W(3);X2二x4*W(l)+x5*W(2)+x6*W(3);%得到投影长度XX1=W(1)*X1;W(2)*X1;W(3)*X1;XX2=W(1)*X2;W(2)*X2;W(3)*X2;%得到新坐标%绘制样本点figure(1);plot3(xl,x2,x3,r*);%第一类holdonplot3(x4,x5,x6,gp);%第二类legend(第一类点，第二类点)；title(Fisher线性判别曲线);W1=5*W;%画出最佳方向1ine(-Wl(1),W1(1),-W1(2),W1(2),-W1(3),W1(3)/color，g);%判别已给点的分类al二1,;
6、a2=,;a3=,;a4=,;a5二;A=ala2a3a4a5;n=size(A,2);%下面代码在改变样本时可不修改%绘制待测数据投影到最佳方向上的点fork=l:nA1=A(:,k)*W;A11=W*A1;%得到待测数据投影y二W*A(:,k)+W0;%计算后与0相比以判断类别，大于0为第一类，小于0为第二类ify0plot3(A(l,k),A(2,k),A(3,k),ro);%点为rp对应第一类plot3(All(l),Al1(2),All，ro*);%投影为对应ro类elseplot3(A(l,k),A(2,k),A(3,k),ch);%点为bh对应ch类Plot3(All(l),Al
7、1(2),All，ch);%投影为b*对应ch类endend%画出最佳方向1ine(-Wl(1),W1(1)1,-W1(2),W1(2),-W1(3),W1(3),color，)；view(,30);axis(-2,3,-1,3,);gridonholdoff3、实验结果根据求出最佳投影方向，然后按照此方向，将待测数据进行投影。为直观起见，我们将两步画在一张图上，如下：其中，红色的*是给出的第一类样本点，蓝色的五角星是第二类样本点。下方的实直线是最佳投影方向。待测数据投影在其上，圆圈是被分为第一类的样本点，十字是被分为第二类的样本点。使几3）取极大值的W二（,）4、实验分析W的比例因子对于Fi
8、sher判別函数没有影响的原因：在本实验中，最需要的是W的方向，或者说是在此方向上数据的投影，那么W的比例因子，即它是单位向量的多少倍长就无关紧要了，不管比例因子有多大，在最后求投影时都会被消掉而起不到实际作用。二、Bayes分类器设计1、实验内容假定某个局部区域细胞识别中正常（）和非正常（）两类先验概率分别为正常状态：P（）=;异常状态：P（）二。现有一系列待观察的细胞，其观察值为I已知先验概率是的曲线如下图：类条件概率分布正态分布分别为（-2,）（2,4）试对观察的结果进行分类。1）用matlab完成分类器的设计，要求程序相应语句有说明文字，要求有子程序的调用过程。2）根据例子画出后验概率
9、的分布曲线以及分类的结果示意图。3）如果是最小风险贝叶斯决策，决策表如下：最小风险贝叶斯决策表：态a106a210请重新设计程丿子，画出相应的后验概率的分布曲线和分类结果，并比较两个结果。2、实验代码最小错误率贝叶斯决策x=1pwl二；pw2二；el=-2;al=;e2=2;a2=2;mnumel(x);%得到待测细胞个数pwl_x二zeros(1,m);%存放对W1的后验概率矩阵pw2_x=ze:ros(1,m);%存放对W2的后验概率矩阵results二zeros(1,m);%存放比较结果矩阵fori=1：m%计算在wl下的后验概率pwl_x(i)二(pwl*normpdf(x(i),el
10、,al)/(pwl*normpdf(x(i),el,al)+pw2*normpdf(x(i),e2,a2);%计算在w2下的后验概率pw2_x(i)二(pw2*normpdf(x(i),e2,a2)/(pwl*normpdf(x(i),el,al)+pw2*normpdf(x(i),e2,a2);endfori=1：mifpwl_x(i)pw2_x(i)%比较两类后验概率endelseendresult(1)=1;%异常细胞a二一5:5;%取样本点以画图n=numel(a);pwl_plot二zeros(1,n);pw2_plot二zeros(1,n);forj=l:npwl_plot(j)=
11、(pwl*nornipdf(a(j),el,al)/(pwl*normpdf(a(j),el,al)+pw2*no:rmpdf(a(j),e2,a2);%计算每个样本点对wl的后验概率以画图pw2_plot(j)-(pw2*noinpdf(a(j),e2,a2)/(pwlnormpdf(a(j),el,al)+pw2*normpdf(a(j),e2,a2);endfigure(1);holdonplot(a,pwl_plot,co,a,pw2_plot,r-.);fork二1:mifresult(k)0plot(x(k),1cp?);%正常细胞用五角星表示plot(x(k),Jr*)；%异常细
12、胞用*表示end;end;legend(?正常细胞后验概率曲线，异常细胞后验概率曲线,正常细胞，异常细胞)；xlabelC样本细胞的观察值)；ylabel(，后验概率)；titleC后验概率分布曲线)；gridonreturn%实验内容仿真：X,9y、,disp(x);pwl二；pw2二；result=bayes(x,pwl,pw2);最小风险贝叶斯决策x=pwl二；pw2二；Rl_x二zeros(1,m);%存放把样本X判为正常细胞所造成的整体损失R2_x=zeros(1,m);%存放把样本X判为异常细胞所造成的整体损失result二zeros(1,m);%存放比较结果el=-2;al=;2
13、2;a2=2;%类条件概率分布px_wl:(-2,)px_w2(2,4)rll=0;rl2=2;r21=4;r22=0;%风险决策表for1=1:m%计算两类风险值Rl_x(i)二rll*pwl*normpdf(x(i),el,al)/(pwl*normpdf(x(i),el,al)+pw2*normpdf(x(i),e2,a2)+r21*pw2*normpdf(x(i),e2,a2)/(pwl*normpdf(x(i),el,al)+pw2*normpdf(x(i),e2,a2);R2_x(i)二rl2*pwl*normpdf(x(i),el,al)/(pwl*normpdf(x(i),el
14、,al)+pw2*normpdf(x(i),e2,a2)+r22*pw2*normpdf(x(i),e2,a2)/(pwl*normpdf(x(i),el,al)+pw2*normpdf(x(i),e2,a2);endfori=l:mifR2_x(i)Rl_x(i)%第二类比第一类风险大result(i)=0;%判为正常细胞(损失较小)，用0表示endenda二一5:5;%取样本点以画图n=numel(a);Rl_plot二zeros(1,n);R2_plot二zeros(1,n);forj=l:nRl_plot(j)=r11*pwl*normpdf(a(j),el,al)/(pwl*norm
15、pdf(a(j),el,al)+pw2*no:rmpdf(a(j),e2,a2)+r2l*pw2*normpdf(a(j),e2,a2)/(pwl*normpdf(a(j),el,al)+pw2*normpdf(a(j),e2,a2)R2_plot(j)二rl2*pwl*no:rmpdf(a(j),el,al)/(pwl*normpdf(a(j),el,al)+pw2*normpdf(a(j),e2,a2)+r22*pw2*nornipdf(a(j),e2,a2)/(pwl*normpdf(a(j),el,al)+pw2*normpdf(a(j),e2,a2)%计算各样本点的风险以画图endfigure(1);holdonplot(a,Rl_plot,co,a,R2_plot,r-);fork=l:mifresult(k)=0plot(x(k),cp)；%正常细胞用五角星表示elseplot(X(k),r*);%异常细胞用*表示end;end;legend(*正常细胞,异常细
