《模式识别 习题集》由会员分享，可在线阅读，更多相关《模式识别 习题集（5页珍藏版）》请在金锄头文库上搜索。
1、 模式识别习题 Part 1 1 CH1 1. Describe the structure of a pattern classification system and give detailed information about each module. CH2 2. Bayesian Classifier (a) What is the decision rule of the Bayesian classifier? (b) Which independency assumption is used for naive Bayes and how does this affect t
2、he decision rule? (c) Show the optimality of the Bayesian classifier. 3. Vessel diseases are a growing problem in the western world. Now, there is a software that can classify a diseased person as actually diseased with 99% reliability. However, it may happen in 2% of the cases that a healthy person
3、 is mistakenly classified as diseased. A statistical analysis shows that the disease is apparent in one out of 100 patients. What is the probability that a patient is actually diseased if the system classifies a disease? 4. 分别写出在以下两种情况 1) P(x|w1) = P(x|w2) 2) P(w1) = P(w2) 下的最小错误率贝叶斯决策规则。 (模式识别第二版，边
4、肇祺，pp.43 2.4) 5. 若11= 22= 0，12= 21 ，证明此时最小最大决策面是来自两类的错误率相等。 (模式识别第二版，边肇祺，pp.43 2.7) 6. 二维正态分布，1= （ 1,0）T， 2= （1,0）T， 1= 2= ，P(1) = P(2)。试写出对数似然比决策规则。 (模式识别第二版，边肇祺，pp.45 2.23) 7. 在习题 6 中若1 2，1= 112 121，2= 112 121，写出负对数似然比决策规则。 (模式识别第二版，边肇祺，pp.45 2.24) 2 8. 贝叶斯决策进行分类。的决策表，按最小风险）中的条件，利用下面1）对（2（进行分类。 对该
5、细胞最小错误率贝叶斯规则，用 6.0|，3.0|布曲线上查得：，从类条件概率密度分 为其观察值。现有一个待识细胞， 2.0；异常状态： 8.0正常状态：为）两类的先验概率分别）和异常（别中正常（）假设某部位的细胞识1（212121xxPxPxPP9. 设在一维特征空间中两类样本服从正态分布，1=2=2，1=0，2=3，两类先验概率之比ePP)(/ )(21，试求按基于最小错误率贝叶斯决策原则的决策分界面的 x 值。 10. 设在三维特征空间里，有两类正态分布模式，每类各有 4 个样本，分别为 1：1,0,1T,1,0,0T,0,0,0T,1,1,0T 2：0,0,1T,0,1,1T,1,1,1
6、T,0,1,0T 其均值向量和协方差矩阵可用下式估计 Mi=1 NiXijNij=1Ci=1 NiXijXijT MiMiTNij=1式中，Ni为类别i中样本的数目；Xij代表在第 i 类中的第 j 个样本。两类的先验概率 P(1) = P(2) =1 2 试确定两类之间的判别界面。 11. 设向量x = (x1,xd)t的分量为二值的（0 或 1） ，且设P(j)为类别状态j的先验概率，其中 j=1,c。现定义 pij= Prxi= 1|j i = 1,dj = 1,c 且对于j中所有 x，其分量xi是统计独立的。 01a2a10712损失状态决策3 （a） 解释pij的含义。 （b） 证明
7、最小误差概率通过下面的判定规则获得：对于所有的 j 和 k，如果gk(x) gj(x)，则判为k，其中 gj(x) = xidi=1lnpij 1 pij+ ln(1 pij)di=1+ lnP(j) (模式分类第二版,Richard O.Duda, pp.61 43) CH3 12. 设总体分布密度为N(,1), + ，并设 = x1,x2,xN，分别用最大似然估 计和贝叶斯估计计算 。已知的先验分布p()N(0,1)。 (模式识别第二版，边肇祺，pp.81 3.1) 13. 设X = x1,x2,xN为来自点二项式分布的样本集，即f(x,P) = PxQ(1x),x = 0,1，0 P 1
8、，Q = 1 P，试求参数 P 的最大似然估计。 (模式识别第二版，边肇祺，pp.81 3.3) 14. 假设损失函数为二次函数(P,P) = (P P)2，以及P的先验密度为均匀分布 f(P)=1， 0 P 1。在这样假设条件下，求 13 题的贝叶斯估计P。 ( 模式识别 第二版， 边肇祺， pp.81 3.4) 15. 设X = x1,x2,xN是来自p(x|)的随机样本， 其中 0 x 时， p(x|) =1， 否则为 0。证明的最大似然估计是maxkxk。 ( 模式识别 第二版， 边肇祺， pp.81 3.7) 16. 考虑一维正态分布的参数估计。设样本（一维）x1，x2，xN都是由独
9、立的抽样试验采 集的，且密度函数服从正态分布，其均值与方差 2未知。求均值和方差的最大似然估 计。 17. 设一维样本集 X=x1，x2，xN是取自正态分布N(， 2)的样本集，其中均值为未知 的参数， 方差 2已知。 未知参数是随机参数， 它有先验分布N( ， 2)的， 、 2已知，求的贝叶斯估计 。 18. 令 x 为服从指数概率密度函数的分布： p(x|)=ex x 0 其他 （a） 当 = 1时， 画出p(x|)关于x的函数图像。 对于x=2， 画出p(x|)关于， 0 5的函 数图像。 （b） 假设 n 个样本点x1,xn都独立地服从分布p(x|)，证明，关于的最大似然估计结 果为
10、4 =1 1 nxkn k=1（c） 在（a）中 = 1的图上，标记出当 n 非常大时，最大似然估计的位置。 ( 模式分类 第二版,Richard O.Duda, pp.115 1) 19. 令 x 具有均匀分布的概率密度 p(x|)U(0,) = 1 0 x 0 其他（a） 假设 n 个样本点D = x1,xn都独立地服从 p(x|)， 证明对于的最大似然估计 就是D中的最大值点maxD。 （b） 假设 n=5 个样本点是从这个分布中抽取的，并且有maxkxk=0.6。画出在区间 0 1上的似然函数p(D|)。 (模式分类第二版,Richard O.Duda, pp.116 2) 20. 设 x 为一个 d 维的二值向量（即其分量取值为 0 或 1） ，服从多维伯努利分布 P(x|) = ixidi=1(1 i)1xi 其中是 = (1,d)t是一个未知的参数向量，而i为xi= 1的概率。证明，对于的最 大似然估计为 =1 nxkn k=1(模式分类第二版,Richard O.Duda, pp.116 4)
