《机器学习与人工智能学习资源导引概要.doc》由会员分享，可在线阅读，更多相关《机器学习与人工智能学习资源导引概要.doc（7页珍藏版）》请在金锄头文库上搜索。
1、机器学习与人工智能学习资源导引纲要机器学习与人工智能学习资源导引我常常在TopLanguage议论组上介绍一些书本,也常常问里面的牛人们收罗一些有关的资料,人工智能、机器学习、自然语言办理、知识发现(特别地,数据发掘、信息检索这些无疑是CS领域最好玩的分支了(也是相互密切联系的,这里将近来有关机器学习和人工智能有关的一些学习资源归一个类:第一是两个特别棒的Wikipedia条目,我也算是wikipedia的重度用户了,学习一门东西的时候常常发现是始于wikipedia中间经过若干次谷歌,而后止于某一本或几本著作。第一个是“人工智能的历史”(HistoryofArtificialIntellig
2、ence,我在议论组上写道:此刻天看到的这篇文章是我在wikipedia阅读到现在感觉最好的。文章名为人工智能的历史,顺着AI发展时间线娓娓道来,中间穿插无数牛人故事,且一波三折大气澎湃,堪称事实比想象更令人吃惊。人工智能始于哲学思辩,中间经历了一个没居心理学(特别是认知神经科学的的帮助的阶段,仅经过牛人对人类思想的外在表现的概括、自察,以及数学工具进行探究,此间最令人激动的是HerbertSimon(决议理论之父,诺奖,跨领域牛人写的一个自动证明机,证了然罗素的数学原理中的二十几个定理,此中有一个定理比原书中的还要优雅,Simon的程序用的是启迪式搜寻,因为公义系统中的证明能够简化为从条件到
3、结论的树状搜寻(但因为组合爆炸,因此一定使用启迪式剪枝。以后Simon又写了GPS(GeneralProblemSolver,听说能解决一些能优秀形式化的问题,如汉诺塔。但说究竟Simon的研究毕竟只涉及了人类思想的一个很小很小的方面FormalLogic,甚至更狭义一点DeductiveReasoning即(不包括InductiveReasoning,TransductiveReasoning俗(称analogicthinking。还有诸多比方CommonSense、Vision、特别是最为复杂的Language、Consciousness都还谜团未解。还有一个比较风趣的就是有人以为AI问题
4、一定要以一个物理的Body为支撑,一个能够感觉这个世界的物理规则的身体自己就是一个强盛的信息根源,鉴于这个信息根源,人类能够自己与时俱进地总结所谓的/Common-SenseKnowledge这(个就是所谓的EmboddiedMind理论。,不然像一些老兄直接手动建立Common-SenseKnowledgeBase就,很傻很天真了,须知人依据感知系统从自然界获取知识是一个动向的自动更新的系统,而手动建立知识库则无异于古老的ExpertSystem的做法。自然,以上只总结了很小一部分我个人感觉比较风趣或新奇的,每个人看到的风趣的地方不同样,比方里面相当详尽地介绍了神经网络理论的兴衰。因此我激烈
5、建议你看自己一遍,别忘了里面链接到其余地方的链接。趁便一说,徐宥同学打算找时间把这个条目翻译出来,这是一个相当长的条目,看不动E文的等着看翻译吧:第二个则是“人工智能”(ArtificialIntelligence。自然,还有机器学习等等。从这些条目出发能够找到很多特别实用和可靠的深入参照资料。而后是一些书本书本:1. ProgrammingCollectiveIntelligence,近来几年出的入门好书,培育兴趣是最重要的一环,一上来看大部头很简单被吓走的:P2. PeterNorvig的AI,ModernApproach2nd(无争议的领域经典。3. TheElementsofStati
6、sticalLearning,数学性比较强,能够做参照了。4. FoundationsofStatisticalNaturalLanguageProcessing,自然语言办理领域公认经典。5. DataMining,ConceptsandTechniques,华侨科学家写的书,相当深入浅出。6.ManagingGigabytes,信息检索好书。7. InformationTheory:InferenceandLearningAlgorithms,参照书吧,比较深。有关数学基础(参照书,不合适拿来通读:1. 线性代数:这个参照书就不列了,好多。2. 矩阵数学:矩阵剖析,RogerHorn。矩阵
7、剖析领域无争议的经典。3. 概率论与统计:概率论及其应用,威廉费勒。也是极牛的书,可数学滋味太重,不合适做机器学习的。于是议论组里的DuLei同学介绍了AllOfStatistics并说到机器学习这个方向,统计学也同样特别重要。介绍Allofstatistics,这是CMU的一本很简短的教科书,着重观点,简化计算,简化与MachineLearning没关的观点和统计内容,能够说是很好的迅速入门资料。4.最优化方法:NonlinearProgramming,2nd非线性规划的参照书。ConvexOptimization凸优化的参照书。别的还有一些书能够参照wikipedia上的最优化方法条目。要
8、深入理解机器学习方法的技术细节好多时候(如SVM需要最优化方法作为铺垫。王宁同学介绍了好几本书: MachineLearning,TomMichell,1997.老书,牛人。此刻看来内容其实不算深,好多章节有点到为止的感觉,可是很合适新手(自然,不可以新到连算法和概率都不知道入门。比方决议树部分就很出色,并且这几年没有特别大的进展,因此并可是时。此外,这本书算是对97年前数十年机器学习工作的大综述,参照文件列表极有价值。国内有翻译和影印版,不知道绝版否。ModernInformationRetrieval,RicardoBaeza-Yatesetal.1999老书,牛人。貌似第一本完好叙述IR
9、的书。惋惜IR这些年进展迅猛,这本书略有些过时了。翻翻做参照仍是不错的。此外,Ricardo同学此刻是YahooResearchforEuropeandLatinAmeria的头头。 PatternClassification(2ed,RichardO.Duda,PeterE.Hart,DavidG.Stork大概也是01年左右的大块头,有影印版,彩色。没读完,但假如想深入学习ML和IR,前三章(介绍,贝叶斯学习,线性分类器必修。还有些经典与我只有一面之交,没有资格评论。此外还有两本小册子,论文集性质的,倒是讲到了了许多前沿和细节,诸如索引怎样压缩之类。惋惜忘了名字,又被我压在箱底,下次迁居前
10、怕是难见天日了。(呵呵,想起来一本:MiningtheWeb-DiscoveringKnowledgefromHypertextData说一本名气很大的书:DataMining:PracticalMachineLearningToolsandTechniques。Weka的作者写的。惋惜内容一般。理论部分太单薄,而实践部分也很离开实质。DM的入门书已经许多,这一本应当能够不看了。假如要学习认识Weka,看文档就好。第二版已经出了,没读过,不清楚。信息检索方面,DuLei同学再次介绍:信息检索方面的书此刻建议看Stanford的那本IntroductiontoInformationRetriev
11、al,这书刚才直式第一版,内容自然uptodate。此外信息检索第一大牛Croft老爷也正在写教科书,应当很快就要面世了。听说是特别pratical的一本书。对信息检索有兴趣的同学,激烈介绍翟成祥博士在北大的暑期学校课程,这里有全slides和阅读资料:http:/ PatternRecognitionandMachineLearning是很新(07年,深入浅出,手不释书。最后,对于人工智能方面(特别地,决议与判断,再介绍两本存心思的书,一本是SimpleHeuristicsthatMakesUsSmart另一本是BoundedRationality:TheAdaptiveToolbox不同于
12、计算机学界所采纳的统计机器学习方法,这两本书更多地着眼于人类实质上所采纳的认知方式,以下是我在议论组上写的简介:这两本都是德国ABC研究小组(一个由计算机科学家、认知科学家、神经科学家、经济学家、数学家、统计学家等构成的跨学科研究集体集体写的,都是惹起领域内宽泛关注的书,特别是前一本,後一本则是对HerbertSimon(决议科学之父,诺奖获取者提出的人类理性模型的扩大研究,能够说是把什么是真实的人类智能这个问题提上了台面。核心思想是,我们的大脑根本不可以做大批的统计计算,使用fancy的数学手法去解说和展望这个世界,而是经过简单而鲁棒的启迪法来面对不确立的世界(比方第一本书中提到的两个以后特
13、别有名的启迪法:再认启迪法(cognitionheuristics和选择最正确(TaketheBest。自然,这两本书并无排挤统计方法就是了,数据量大的时候统计优势就出来了,而数据量小的时候统计方法就变得特别糟糕;人类简单的启迪法例充分利用生态环境中的规律性(regularities,都做到计算复杂性小且鲁棒。对于第二本书的简介:1. 谁是HerbertSimon2. 什么是BoundedRationality3. 这本书讲啥的:我向来感觉人类的决议与判断是一个特别迷人的问题。这本书柬单地说能够看作是决议与判断的更全面更理论的版本。系统且理论化地介绍人类决议与判断过程中的各样启迪式方法(heu
14、ristics及其利害(为何他们是最优化方法在信息不足状况下的快捷且鲁棒的迫近,以及为何在一些状况下会带来糟糕的结果等,比方学过机器学习的都知道朴实贝叶斯方法在很多状况下常常其实不比贝叶斯网络成效差,并且还速度快;比方多项式插值的维数越高越简单overfit,而鉴于低阶多项式的分段样条插值却被证明是一个特别鲁棒的方案。在此提一个书中提到的例子,特别存心思:两个团队被派去设计一个能够在场上接住抛过来的棒球的机器人。第一组做了详尽的数学剖析,成立了一个相当复杂的抛物线近似模型(因为还要考虑空气阻力之类的原由,因此并不是严格抛物线,用于计算球的落点,以便正确地接到球。明显这个方案耗费巨大,并且实质运算也需要时间,大家都知道生物
