人工智能中的语义分析技术及其应用

《人工智能中的语义分析技术及其应用》由会员分享，可在线阅读，更多相关《人工智能中的语义分析技术及其应用（12页珍藏版）》请在金锄头文库上搜索。

1、人工智能中的语义分析技术及其应用一、人工智能语义分析技术语义分析(SemanticAnalysis )是人工智能(Artificiallntelligence)的一个分支是自然语言处理技术的 几个核心任务涉及语言学、计算语言学、机器学习以及认知语言 等多个学科语义分析任务有助于促进其他自然语言处理任务的快 速发展。人工智能中的语义分析技术特别是深度学习(DeepLearning)技术近年来发展迅猛已经在围棋对弈、自动驾 驶、图像识别、语音识别等多个领域取得了突破性进展。语义分析指运用各种方法学习与理解一段文本所表示的语义 内容任何对语言的理解都可以归为语义分析的范畴。一段文本通 常由词、句子和

2、段落来构成根据理解对象的语言单位不同语义分 析又可进一步分解为词汇级语义分析、句子级语义分析以及篇章 级语义分析。一般来说词汇级语义分析关注的是如何获取或区别 单词的语义句子级语义分析则试图分析整个句子所表达的语义而 篇章语义分析旨在研究自然语言文本的内在结构并理解文本单元 (可以是句子从句或段落)间的语义关系。简单地讲语义分析的 目标就是通过建立有效的模型和系统实现在各个语言单位(包括 词汇、句子和篇章等)的自动语义分析从而实现理解整个文本表 达的真实语义。二、语义分析技术（一）基础技术（按照词语分析、句子分析、篇章分析来写） 分别从词汇级、句子级和篇章级三个层次描述语义分析相关技术。1.

3、词语级语义分析词汇层面上的语义分析主要体现在如何理解某个词汇的含义 主要包含两个方面：词义消歧和词义表示（1）词义消歧词汇的歧义性是自然语言的固有特征。词义消歧根据一个多 义词在文本中出现的上下文环境来确定其词义作为各项自然语言 处理的基础步骤和必经阶段被提出来。词义消歧包含两个必要的 步骤：（a）在词典中描述词语的意义；（b）在语料中进行词义 自动消歧。例如“苹果”在词典中描述有两个不同的意义：一种 常见的水果；美国一家科技公司。对于下面两个句子：她的脸红得像苹果。最近几个月苹果营收出现下滑。词义消歧的任务是自动将第一个苹果归为“水果”而将第二 个苹果归为“公司”。从上面的例子中我们发现词义

4、消歧主要面 临如下两个关键问题：（a）词典的构建；（b）上下文的建模。（2）词义表示和学习对于词义表示早期的做法将某个词义表示为从该词义在同义 词网络中出现的位置到该网络根节点之间的路径信息。词义表示 的另一个思路是将其数字化。最直观也是到目前为止最常用的词 表示方法是one-hot表示方法这种方法把每个词表示为一个很长 的向量。这个向量的维度是词表大小其中绝大多数元素为0只有 一个维度的值为1这个维度就代表了当前的词。不难想象这种表 示方法存在一个重要的问题：任意两个词之间都是孤立的。造成 的结果是：光从两个向量中看不出两个词是否有关系即使这两个 词是同义词例如“计算机”和“电脑”、“上海”

5、和“上海 市”。随着机器学习算法的发展目前更流行的词义表示方式是词嵌 入（WordEmbedding又称词向量）。其基本想法是：通过训练将某 种语言中的每一个词映射成一个固定维数的向量将所有这些向量 放在一起形成一个词向量空间而每一向量则可视为该空间中的一 个点在这个空间上引入“距离”则可以根据词之间的距离来判断 它们之间的（词法、语义上的）相似性。2. 句子级语义分析句子级的语义分析试图根据句子的句法结构和句中词的词义 等信息推导出能够反映这个句子意义的某种形式化表示。根据句 子级语义分析的深浅又可以进一步划分为浅层语义分析和深层语 义分析。（1）浅层语义分析语义角色标注（SemanticR

6、oleLabeling简称SRL）是一种浅 层的语义分析。给定一个句子SRL的任务是找出句子中谓词的相 应语义角色成分包括核心语义角色(如施事者、受事者等)和附 属语义角色(如地点、时间、方式、原因等)。目前SRL的实现通常都是基于句法分析结果即对于某个给定 的句子首先得到其句法分析结果然后基于该句法分析结果再实现 SRL。(2)深层语义分析深层的语义分析(有时直接称为语义分析SemanticParsing) 不再以谓词为中心而是将整个句子转化为某种形式化表示例如： 谓词逻辑表达式(包括lambda演算表达式)、基于依存的组合式 语义表达式(dependency- basedpositiona

7、lsemanticrepresentation)等。以下给出了 GeoQuery数据集中的一个中英文句子对以及对应的一阶谓词逻辑 语义表达式：中文：列出在科罗拉多州所有的河流英文：NamealltheriversinColorado语义表达式： answer (river (loc_2 (stateid(Colorado)虽然各种形式化表示方法采用的理论依据和表示方法不一样 但其组成通常包括系谓词(如上例中的loc_2、river等)、实 体(如colorado)等。语义分析通常需要知识库的支持在该知识 库中预先定义了一序列的实体、属性以及实体之间的关系。3. 篇章级语义分析篇章是指由一系列连

8、续的子句、句子或语段构成的语言整体 单位在一个篇章中子句、句子或语段间具有一定的层次结构和语 义关系篇章结构分析旨在分析出其中的层次结构和语义关系。具 体来说给定一段文本其任务是自动识别出该文本中的所有篇章结 构其中每个篇章结构由连接词两个相应的论元以及篇章关系类别 构成。篇章结构可进一步分为显式和隐式显式篇章关系指连接词 存在于文本中而隐式篇章关系指连接词不存在于文本中但可以根 据上下文语境推导出合适的连接词。对于显式篇章关系类别连接 词为判断篇章关系类别提供了重要依据关系识别准确率较高；但 对于隐式篇章关系由于连接词未知关系类别判定较为困难也是篇 章分析中的一个重要研究内容和难点。（二）深

9、度学习技术（深度学习在NLP中的研究内容）在深度学习技术中循环神经网络（RecurrentNeuralworksRNNs）被证明在自然语言处理中是最有 效的下面将介绍循环神经网络。RNNs的目的是使用序列来处理数据。在传统的神经网络模型 中是从输入层到隐含层再到输出层层与层之间是全连接的每层之 间的节点是无连接的。但是这种普通的神经网络对于很多问题却 无能无力。例如你要预测句子的下一个单词是什么一般需要用到 前面的单词因为一个句子中前后单词并不是独立的。RNNs之所以 称为循环神经网路即一个序列当前的输出与前面的输出也有关。 具体的表现形式为网络会对前面的信息进行记忆并应用于当前输 出的计算中

10、即隐藏层之间的节点不再无连接而是有连接的并且隐 藏层的输入不仅包括输入层的输出还包括上一时刻隐藏层的输 出。理论上RNNs能够对任何长度的序列数据进行处理。但是在实 践中为了降低复杂性往往假设当前的状态只与前面的几个状态相 关。RNNs已经在实践中被证明对NLP是非常成功的。如词向量表 达、语句合法性检查、词性标注等。在RNNs中目前使用最广泛、 最成功的模型便是LSTMs （LongShort-TermMemory长短时记忆模 型）模型该模型通常比vanillaRNNs能够更好地对长短时记忆模 型依赖进行表达该模型相对于一般的RNNs只是在隐藏层做了手 脚。RNNs可以应用于语言模型与文本生

11、成、文本分类、机器翻译 等自然语言处理任务中。三、面向业务建模的语义分析（介绍DINFO-OEC平台和技 术）（一）DINFO-OEC平耋介绍DINFO-OEC非结构化大数据分析挖掘平台是中科鼎富（北京） 科技发展有限公司研发的大数据产品具有非结构化文本大数据的 分析、挖掘的超凡能力是企业实施大数据战略的强大利器。大数据中80%都是非结构化大数据非结构化大数据因其中的业 务对象、对象之间的关系等都蕴含在文本内容中而文本内容来源 繁多、表达方式灵活多样、存在着大量的歧义性因此无法使用传 统的BI工具等进行分析无法直接服务于业务实现业务价值。非结 构化大数据是大数据处理的难点和热点。DINFO-O

12、EC平台支持三位 一体的多维度业务建模能力结合自然语言处理、深度学习等统计 文本挖掘算法基于平台立体式的业务模型的智能语义感知技术提 供对非结构化大数据智能理解与自动化处理能力实现文本知识的 多维度的业务标签标记功能将无序的非结构化信息转换为满足业 务需求的结构化数据。DINFO-OEC平台支持与主流Hadoop、Spark 等大数据平台实现对接利用hadoop平台提供的分布式存储和 Map/Reduce分布式计算能力实现复杂、批量的大数据分析挖掘。 利用Spark、kafka等提供的实时分布式计算能力提供海量数据的 实时分析计算能力融合主流的搜索引擎技术支持基于海量历史数 据的交互式搜索功能

13、。DINFO-OEC平台支持与常用的商业智能系统 进行融合实现结构化数据和非结构化数据的融合分析挖掘最大化 的挖掘大数据的业务价值提供大数据分析挖掘支持下的业务创 新。（二）业务建模业务建模技术采用神州泰岳独创的“本体O-要素E-概念C” 三位一体的专利技术（发明专利号202155830.1）进行建模将业务 和语言分为两个不同层次建模。业务建模以本体论为核心对业务 知识进行规划对业务规则进行建模配置形成形式化的业务规则。 业务建模技术支持业务与非结构化数据的语言表达分离区分业务 层次和语言层次进行分部建模。业务层次支持业务本体构建支持 业务要素发现与配置；语言层次支持语言概念的构建与维护支持

14、常用词汇库和同义库等建设。DINFO-OEC业务建模价值在于客户只 需关注自身业务的描述文本表示的多样性和歧义性等由系统来负 责解决。（三）平台特点（参考白皮书）1. 超凡的面向业务的非结构化数据建模能力INDO-OEC业务建模能把纷繁复杂的业务规则和灵活多样的语 言表达习惯进行统一建模从本体、要素和概念三个维度构建分析 挖掘模型有效地将“业务”描述与自然语言的表达进行分离使得 业务人员可以专注于自己擅长的业务需求及业务规则的建模而无 需考虑自然语言的歧义性、表达的多样性和复杂性等。2. 强大的非结构化分析挖掘能力产品支持智慧语义感知算法提供强大的自然语言理解相关分 析算法包括内容分类、聚类、

15、主题分析、语义分析、实体识别、 启发式搜索引擎、引擎、摘要引擎等。产品支持多种分析挖掘算法包括C计算（提供概念的抽取、 概念表达式挖掘、概念表达式匹配算法）S计算（提供常用的统计 挖掘算法包括但是不限于KNN、SVM、决策树等算法）和R计算 （提供概念关联发现算法）。3. 丰富的多语种分析挖掘支持能力系统内置了多语种分析挖掘算法。利用一套算法流程实现多 语种支持语种扩展性好。新增加语种不用修改算法。多语种复用的能力。平台支持多语种业务规则保持一致的能 力。业务规则（对应系统的本体树）的维护只需维护中文简体版 无须维护其他语种的本体树大大减少本体树维护工作量。跨语种建模能力。平台支持用中文简体版

16、书写其他语种的本 体树规则。修改、维护本体树类别无须掌握其他语种。4. 卓越的大数据计算与存储平台集成能力支持主流的Hadoop平台支持Map/Reduce批量计算以及Spark 实时计算支持HDFS、Hbase、kafka等存取。支持的Hadoop平台 包括 ApacheHadoop、IBMBigInsights、华为 FusionInsights、 EMCPivotalHD。支持SOA集群架构支持与Oracle、Mysql、DB2等主力数据库 产品集成。四、语义分析应用（一）金融行业应用人工智能的飞速发展使得机器能够在很大程度上模拟人的功 能实现批量人性化和个性化地服务客户这将给身处服务价值链高 端的金融行业带来深刻影响人工智能将成为决定银行沟通客户、 发现客户金融需求的重要因素。它将对金融产品、服务渠道、服 务方式、风险管理、授