《语义分析的一些方法附图片》由会员分享，可在线阅读，更多相关《语义分析的一些方法附图片（56页珍藏版）》请在金锄头文库上搜索。
1、语义分析的一些方法(上篇)人工智能 林17小时前700评论作者：火光摇曳语义分析的一些方法（上篇）语义分析的一些方法（中篇）语义分析的一些方法（下篇）语义分析，本文指运用各种机器学习方法，挖掘与学习文本、图片等的深层次概念。wikipedia上的解释：In machine learning, semantic analysis of a corpus is the task of building structures that approximate concepts from a large set of documents(or images)。工作这几年，陆陆续续实践过一些项目，有搜索
2、广告，社交广告，微博广告，品牌广告，内容广告等。要使我们广告平台效益最大化，首先需要理解用户，Context(将展示广告的上下文)和广告，才能将最合适的广告展示给用户。而这其中，就离不开对用户，对上下文，对广告的语义分析，由此催生了一些子项目，例如文本语义分析，图片语义理解，语义索引，短串语义关联，用户广告语义匹配等。接下来我将写一写我所认识的语义分析的一些方法，虽说我们在做的时候，效果导向居多，方法理论理解也许并不深入，不过权当个人知识点总结，有任何不当之处请指正，谢谢。本文主要由以下四部分组成：文本基本处理，文本语义分析，图片语义分析，语义分析小结。先讲述文本处理的基本方法，这构成了语义分
3、析的基础。接着分文本和图片两节讲述各自语义分析的一些方法，值得注意的是，虽说分为两节，但文本和图片在语义分析方法上有很多共通与关联。最后我们简单介绍下语义分析在广点通“用户广告匹配”上的应用，并展望一下未来的语义分析方法。1 文本基本处理在讲文本语义分析之前，我们先说下文本基本处理，因为它构成了语义分析的基础。而文本处理有很多方面，考虑到本文主题，这里只介绍中文分词以及Term Weighting。1.1 中文分词拿到一段文本后，通常情况下，首先要做分词。分词的方法一般有如下几种： 基于字符串匹配的分词方法。此方法按照不同的扫描方式，逐个查找词库进行分词。根据扫描方式可细分为：正向最大匹配，反
4、向最大匹配，双向最大匹配，最小切分(即最短路径)；总之就是各种不同的启发规则。 全切分方法。它首先切分出与词库匹配的所有可能的词，再运用统计语言模型决定最优的切分结果。它的优点在于可以解决分词中的歧义问题。下图是一个示例，对于文本串“南京市长江大桥”，首先进行词条检索(一般用Trie存储)，找到匹配的所有词条（南京，市，长江，大桥，南京市，长江大桥，市长，江大桥，江大，桥），以词网格(word lattices)形式表示，接着做路径搜索，基于统计语言模型(例如n-gram)18找到最优路径，最后可能还需要命名实体识别。下图中“南京市 长江 大桥”的语言模型得分，即P(南京市，长江，大桥)最高，
5、则为最优切分。图1. “南京市长江大桥”语言模型得分 由字构词的分词方法。可以理解为字的分类问题，也就是自然语言处理中的sequence labeling问题，通常做法里利用HMM，MAXENT，MEMM，CRF等预测文本串每个字的tag62，譬如B，E，I，S，这四个tag分别表示：beginning, inside, ending, single，也就是一个词的开始，中间，结束，以及单个字的词。 例如“南京市长江大桥”的标注结果可能为：“南(B)京(I)市(E)长(B)江(E)大(B)桥(E)”。由于CRF既可以像最大熵模型一样加各种领域feature，又避免了HMM的齐次马尔科夫假设，所
6、以基于CRF的分词目前是效果最好的，具体请参考文献61,62,63。除了HMM，CRF等模型，分词也可以基于深度学习方法来做，如文献910所介绍，也取得了state-of-the-art的结果。图2. 基于深度学习的中文分词上图是一个基于深度学习的分词示例图。我们从上往下看，首先对每一个字进行Lookup Table，映射到一个固定长度的特征向量(这里可以利用词向量，boundary entropy，accessor variety等)；接着经过一个标准的神经网络，分别是linear，sigmoid，linear层，对于每个字，预测该字属于B,E,I,S的概率；最后输出是一个矩阵，矩阵的行是B
7、,E,I,S 4个tag，利用viterbi算法就可以完成标注推断，从而得到分词结果。一个文本串除了分词，还需要做词性标注，命名实体识别，新词发现等。通常有两种方案，一种是pipeline approaches，就是先分词，再做词性标注；另一种是joint approaches，就是把这些任务用一个模型来完成。有兴趣可以参考文献962等。一般而言，方法一和方法二在工业界用得比较多，方法三因为采用复杂的模型，虽准确率相对高，但耗时较大。1.2 语言模型前面在讲“全切分分词”方法时，提到了语言模型，并且通过语言模型，还可以引出词向量，所以这里把语言模型简单阐述一下。语言模型是用来计算一个句子产生概
8、率的概率模型，即P(w_1,w_2,w_3w_m)，m表示词的总个数。根据贝叶斯公式：P(w_1,w_2,w_3 w_m) = P(w_1)P(w_2|w_1)P(w_3|w_1,w_2) P(w_m|w_1,w_2 w_m-1)。最简单的语言模型是N-Gram，它利用马尔科夫假设，认为句子中每个单词只与其前n1个单词有关，即假设产生w_m这个词的条件概率只依赖于前n1个词，则有P(w_m|w_1,w_2w_m-1) = P(w_m|w_m-n+1,w_m-n+2 w_m-1)。其中n越大，模型可区别性越强，n越小，模型可靠性越高。N-Gram语言模型简单有效，但是它只考虑了词的位置关系，没有
9、考虑词之间的相似度，词语法和词语义，并且还存在数据稀疏的问题，所以后来，又逐渐提出更多的语言模型，例如Class-based ngram model，topic-based ngram model，cache-based ngram model，skipping ngram model，指数语言模型（最大熵模型，条件随机域模型）等。若想了解更多请参考文章18。最近，随着深度学习的兴起，神经网络语言模型也变得火热4。用神经网络训练语言模型的经典之作，要数Bengio等人发表的A Neural Probabilistic Language Model3，它也是基于N-Gram的，首先将每个单词w_
10、m-n+1,w_m-n+2 w_m-1映射到词向量空间，再把各个单词的词向量组合成一个更大的向量作为神经网络输入，输出是P(w_m)。本文将此模型简称为ffnnlm（Feed-forward Neural Net Language Model）。ffnnlm解决了传统n-gram的两个缺陷：(1)词语之间的相似性可以通过词向量来体现；(2)自带平滑功能。文献3不仅提出神经网络语言模型，还顺带引出了词向量，关于词向量，后文将再细述。图3. 基于神经网络的语言模型从最新文献看，目前state-of-the-art语言模型应该是基于循环神经网络(recurrent neural network)的语
11、言模型，简称rnnlm56。循环神经网络相比于传统前馈神经网络，其特点是：可以存在有向环，将上一次的输出作为本次的输入。而rnnlm和ffnnlm的最大区别是：ffnnmm要求输入的上下文是固定长度的，也就是说n-gram中的 n 要求是个固定值，而rnnlm不限制上下文的长度，可以真正充分地利用所有上文信息来预测下一个词，本次预测的中间隐层信息(例如下图中的context信息)可以在下一次预测里循环使用。图4. 基于simple RNN(time-delay neural network)的语言模型如上图所示，这是一个最简单的rnnlm，神经网络分为三层，第一层是输入层，第二层是隐藏层(也叫
12、context层)，第三层输出层。 假设当前是t时刻，则分三步来预测P(w_m)： 单词w_m-1映射到词向量，记作input(t) 连接上一次训练的隐藏层context(t1)，经过sigmoid function，生成当前t时刻的context(t) 利用softmax function，预测P(w_m)参考文献7中列出了一个rnnlm的library，其代码紧凑。利用它训练中文语言模型将很简单，上面“南京市 长江 大桥”就是rnnlm的预测结果。基于RNN的language model利用BPTT(BackPropagation through time)算法比较难于训练，原因就是深度神
13、经网络里比较普遍的vanishing gradient问题55（在RNN里，梯度计算随时间成指数倍增长或衰减，称之为Exponential Error Decay）。所以后来又提出基于LSTM(Long short term memory)的language model，LSTM也是一种RNN网络，关于LSTM的详细介绍请参考文献54,49,52。LSTM通过网络结构的修改，从而避免vanishing gradient问题。图5. LSTM memory cell如上图所示，是一个LSTM unit。如果是传统的神经网络unit，output activation bi = activatio
14、n_function(ai)，但LSTM unit的计算相对就复杂些了，它保存了该神经元上一次计算的结果，通过input gate，output gate，forget gate来计算输出，具体过程请参考文献53，54。1.3 Term WeightingTerm重要性对文本分词后，接下来需要对分词后的每个term计算一个权重，重要的term应该给与更高的权重。举例来说，“什么产品对减肥帮助最大？”的term weighting结果可能是: “什么 0.1，产品 0.5，对 0.1，减肥 0.8，帮助 0.3，最大 0.2”。Term weighting在文本检索，文本相关性，核心词提取等任务
15、中都有重要作用。 Term weighting的打分公式一般由三部分组成：local，global和normalization 1,2。即TermWeight=L_i,j G_i N_j。L_i,j是term i在document j中的local weight，G_i是term i的global weight，N_j是document j的归一化因子。常见的local，global，normalization weight公式2有：图6. Local weight formulas图7. Global weight formulas图8. Normalization factorsTf-Idf是一种最常见的term weighting方法。在上面的公式体系里，Tf-Idf的local weight是FREQ，glocal weight是IDFB，normalization是None。tf是词频，表示这个词出现的次数。df是文档频率，表示这个词在多少个文档中出现。idf则是逆文档频率，idf=log(TD/df)，TD表示总文档数。Tf-Idf在很多场合都很有效，但缺点也比较明显，以“词频”度量重要性，不够全面，譬如在搜索广告的关键词匹配时就不够用。除了TF-IDF外，还有很多其他term weighting方法，例如Okapi，MI，LTU，ATC，TF-ICF5
