《基于贝叶斯的文本自动分类的研究和实现》由会员分享,可在线阅读,更多相关《基于贝叶斯的文本自动分类的研究和实现(15页珍藏版)》请在金锄头文库上搜索。
1、毕业设计(论文)I毕业设计(论文)任务书题目 基于贝叶斯的文本自动分类的研究和实现专业 学号 姓名主要内容、基本要求、主要参考资料等:近年来随着 Internet 的大规模普及和企业信息化程度的提高,有越来越多的信息 积累,而需要信息的人还没有特别方便的工具去从来自异构数据源的大规模的文本信 息资源中提取符合需要的简洁、精炼、可理解的知识,文本挖掘正是解决这一问题的 一个方法。本课题研究基于贝叶斯的文本分类系统,可以用于以下领域和系统中:企业知识 门户、信息增值服务、智能搜索引擎 、数字图书馆 、情报分析 、信息安全和过滤、 电子商务系统。文本自动分类不需人工干预的自动分类技术,有效提高非结构
2、化信息 资源的加工效率。利用朴素贝叶斯分类文法的分类器,分析已经手动分类的文本,根 据文本内容计算分类条件概率,再利用训练好的分类器分析未分类的文本,根据分类 器算出的所属领域概率最大的进行分类。 本课题任务要求: 1) 学习关于朴素贝叶斯分类文法,查找相关的资料以供参考; 2) 实现朴素贝叶斯分类文法的分类器; 3) 人工对样本数据进行分类和标注; 4) 利用贝叶斯分类文法的分类器,利用样本进行训练,然后对分类数据进行自动 分类; 5) 根据分类结果,调整分类阈值,弥补分类器的不足。6) 根据实验数据和结果,按时完成毕业设计论文。 主要参考资料:贝叶斯分类算法的论文和资料,未分类文本语料。完
3、成期限:指导教师签章: 专业负责人签章:年 月 日毕业设计(论文)II摘要随着计算机技术和通讯技术的飞速发展,人们可以获得越来越多的数字化信息,但同时也需要投入更多的时间对信息进行组织和管理。为了减轻这种负担,人们开始研究使用计算机对文本进行自动分类。文本自动分类就是在给定的分类体系下,让计算机根据文本的内容确定与它相关联的类别。自动文本分类是人工智能技术和信息获取技术相结合的研究领域。随着网络的发展,大量的文档数据涌现在网上,用于处理海量数据的自动文本分类技术变得越来越重要,已逐渐成为处理和组织大量文档数据的关键技术。通过分析 kNN(k Nearest Neighbor)、朴素贝叶斯(Na
4、ive Bayes)、SVM(Support Vector Machine)三种文本分类方法的优点和缺点,发现朴素贝叶斯分类器速度极快, 具有最小的出错率,可在线化实现等优点,并对该分类方法进行了理论分析和实验对 比,实验结果表明这种文本分类模型是高效的可行的。 本文首先介绍了基于贝叶斯的文本自动分类的研究和实现的背景,并且叙述了相关 问题的概念知识,包括文本分类和中文分词等;其次,对相关的理论知识做了讲解, 包括先验概率、条件概率、贝叶斯理论、贝叶斯算法等;第三,对如何实现文本分类 进行了概述以及整体讲解,通过给出流程图,可以更直观的了解实现的过程;第四, 详细介绍了实现本课题所用到的重要工
5、具,包括 JBuilder2007 开发工具和全文检索引 擎 Lucene 以及 Java 平台;第五,在前期工作基础上,给出了详细的实现过程,包括 单文本分类和多文本分类以及相关具体操作;最后,通过多次大量重复试验,得出了 实验数据,在此通过表格的形式,直观的给出了实验结果。 本课题研究基于贝叶斯的文本分类系统,根据所讨论的算法构造了贝叶斯文本自 动分离器,并做出详尽的训练测试,从最终的试验结果可以看出,贝叶斯算法简单、性能优越,即使在不考虑贝叶斯假设的前提下,仍然取得良好的分类性能。关键字:文本自动分类 ,贝叶斯分类 ,分类文本语料库。毕业设计(论文)IIIAbstractWith the
6、 computer technology and the rapid development of communication technology, people can get more and more digital information, but it also needs to devote more time to organize and manage information. In order to alleviate that burden, people began to study the use of computers for automatic classifi
7、cation of text. Automatic text categorization is the classification of a given system, the computer determined in accordance with the contents of the text associated with its category. Automatic text classification is the artificial intelligence technology and access to information technology resear
8、ch field. With the development of network, data on the emergence of a large number of documents online, to deal with massive data technology of automatic text classification is becoming increasingly important, has become an increasingly large number of document processing and organization of the key
9、 technologies of data. By analyzing the k Nearest Neighbor、Naive Bayes、Support Vector Machine method of text classification in three strengths and weaknesses found in Naive Bayesian classifier speed, with the smallest error rate, can achieve the advantages of online technology, and the classificatio
10、n of the theoretical analysis and experimental comparison, experimental results show that the text categorization model is feasible and efficient.This paper first introduces the Bayesian-based text categorization of the research and realization of the background and describes the issues related to t
11、he concept of knowledge, including text classification and Chinese word segmentation .Second, the relevant theoretical knowledge to do the explaining, including a priori probability, conditional probability, Bayesian theory, the Bayesian algorithm . Third, on how to achieve the outlined text classif
12、ication as well as on the whole, through the given flow chart, you can achieve a more intuitive understanding of the process. Fourth, in detail on achieving this important task by use of tools, including development tools and JBuilder2007 full-text search engine Lucene and Java platform. Fifth, prio
13、r to the adoption of the work detailed in this paper the realization of the process, including single-and multi-text classification text categorization and related specific operations; Finally, a large number of repeat tests many times, the experimental data obtained in this 毕业设计(论文)IVform through t
14、he form, intuitive experimental results are given. The research based on Bayesian text classification system, according to the algorithm discussed in the text automatically constructed Bayesian separator and training to make a detailed test results from the final we can see that the Bayesian algorit
15、hm is simple, superior performance, even without taking into account the assumption that the premise of Bayesian still achieve good classification performance. Keywords: Automatic Text Categorization, Bayesian Classifier, Classification of text corpora.毕业设计(论文)1目录目录1.绪论.21.1 研究背景.2 1.2 文本分类的研究现状 .2 1.3 分类的含义.3 1.4 文本分类的含义.3 1.5 自动分类.