《[精选]人工智能11监督学习》由会员分享，可在线阅读，更多相关《[精选]人工智能11监督学习（47页珍藏版）》请在金锄头文库上搜索。
1、第11章 监督学习,剩余课程安排,本周是第八周，周四结束所有课程 第八周第2节结束实验三验收 第9周考试，考试时间11.01 8周.周日晚上交实验三的报告,大纲,分类 逻辑斯特回归 支持向量机SVM 神经网络 Bagging and Boosting 回归 自主学习课程论文3： SVR 实例,Logistic回归基本理论和方法,研究某一事件发生的概率P=P(y=1)与若干因素之间的关系 ,在0和1之间,任意范围之间的数量,若干个状态的标量,logistic变换,logistic变换 Logistic回归模型 ,优势比,概率p的预测,P与多因素之间的关系预测,P与单特征之间的关系图,p,x,1,
2、最可能成功范围,最不可能成功范围,LR模型公式,二分类：,多项逻辑斯特回归（Multinomial logistic regression ，MLR）：,注意：在实际分类应用时，因为特征向量往往维数较多，标签值的分类，优先选择MLR模型,支持向量机SVM,在机器学习领域，支持向量机SVM(Support Vector Machine)是一个有监督的学习模型，通常用来进行模式识别、分类、以及回归分析。,线性分类器,Binary classification can be viewed as the task ofseparating classes in feature space（特征空间）
3、:,Linear Classification,Which of the linear separators is optimal?,Classification Margin（间距）,Classification Margin（间距）,Maximum Margin Classification最大间距分类,Maximizing the margin is good according to intuition and PAC theory. 意味着分类时只考虑支持向量，其他的训练样本被忽略。,Maximum Margin Classification最大间距分类,Maximizing the
4、 margin is good according to intuition and PAC theory. 意味着分类时只考虑支持向量，其他的训练样本被忽略。,Maximum Margin ClassificationMathematically,Maximum Margin ClassificationMathematically,非线性SVMs,非线性SVMs:特征空间,课堂讨论,神经网络,问题求解,求解线性子问题,激活函数,图形化描述求解过程,图形化描述求解过程,图形化描述求解过程,深度神经网络,Bagging,bagging是一种用来提高学习算法准确度的方法，这种方法通过构造一个预测
5、函数系列，然后以一定的方式将它们组合成一个预测函数 基本思想 1.给定一个弱学习算法,和一个训练集; 2.单个弱学习算法准确率不高; 3.将该学习算法使用多次,得出预测函数序列,进行投票; 4.最后结果准确率将得到提高,Bagging,算法 1.For t = 1, 2, , T Do 从数据集S中取样（放回选样） 训练得到模型Ht 对未知样本X分类时,每个模型Ht都得出一个分类，得票最高的即为未知样本X的分类 2.也可通过得票的平均值用于连续值的预测 要求的分类算法 Bagging要求“不稳定”（不稳定是指数据集的小的变动能够使得分类结果的显著的变动）的分类方法。比如：决策树，神经网络算法,Boosting,发展历史,Boosting,AdaBoost,AdaBoost,回归,多项式最小二乘回归 支持向量回归SVR 神经网络 深度神经网络 。,实例,淘宝母婴预测,预测模型整体框架,特征提取,分类器,分类器选择：MLR 评价标准 Micro F1值,实验结果,总体准确率：78.2%,70%覆盖率下各年龄段上的Micro F1值,演讲完毕，谢谢观看！,
