《连续语音识别中半连续HMM的研究及实现硕士学位论文》由会员分享,可在线阅读,更多相关《连续语音识别中半连续HMM的研究及实现硕士学位论文(69页珍藏版)》请在金锄头文库上搜索。
1、密级:内部连续语音识别中半连续HMM的研究及实现Research and Implement ofSCHMM in CSR(申请清华大学工学硕士学位论文)独 创 性 声 明本人声明所呈交的论文是我个人在导师指导下进行的研究工作及取得的研究成果。尽我所知,除了文中特别加以标注和致谢的地方外,论文中不包含其他人已经发表或撰写过的研究成果,也不包含为获得清华大学或其它教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均已在论文中作了明确的说明并表示了谢意。 签 名:日 期: 关于论文使用授权的说明本人完全了解清华大学有关保留、使用学位论文的规定,即:学校有权保留送交论文的复
2、印件,允许论文被查阅和借阅;学校可以公布论文的全部或部分内容,可以采用影印、缩印或其他复制手段保存论文。签 名: 导师签名: 日 期: 摘 要SCHMM作为一种有效的语音识别技术,它充分地吸收了离散HMM和连续HMM的优点,具有识别精度高搜索速度快等特点。特别是它的码本绑定策略,由于从全局的角度来共享和调整码本,所生成的码本性能更好,能够有效地反映语音空间的特征,因此只要少量的码本就能使系统达到较好的性能,大大减轻了码本计算的复杂性,提高了系统识别的速度。研究内容包括如下几个方面:1. 在初始码本生成中引入了随机松弛算法,SCHMM的初始码本生成是一个矢量量化的问题,量化的困难是量化结果通常会
3、陷入局部最优,采用随机松弛算法能够比较好地克服这个缺点。2. 在连续语音训练中,通过减去句子单元信息,克服了Baum-Welch算法训练不同类型句子时发生数据奇异的缺陷。3. 改进了SCHMM的搜索算法,通过对码本进行剪枝,Beam剪枝等措施,在保证一定识别率的前提下,大大减少了搜索在时间和空间上的消耗,加快了搜索的速度。4. 实现了一个基于SCHMM的连续语音训练和识别系统。关键词:语音识别,半连续HMM,码本,随机松弛,搜索IVAbstractAs an efficient technology of speech recognition, Semi Continuous HMM (SCH
4、MM) integrates the advantages of discrete HMM and continuous HMM, and provides a high recognition accuracy and satisfactory speed. In particular, since the sharing and modification of codebooks in global scope, the code-binding strategy makes it possible to generate much better codebooks that could
5、describe the feature of acoustic space more accurately. In such a case, small codebooks can provide satisfactory performance so that the computational complexity is reduced and the recognition speed is increased.The key research contains the follows1. The algorithm of stochastic relaxation is introd
6、uced into codebook initialization. Codebook initialization of SCHMM is a problem of vector quantification, whose trouble is that the quantification result often reaches the local minimal point. The introduction of stochastic relaxation overcomes this problem in our experiments.2. In continuous speec
7、h training, the disadvantage that Baum-Welch algorithm could be thrown into data oddity because of different sentences gives various weights to the estimation is resolved by subtracting sentence information.3. Through codebook selection, beam pruning, the search algorithm of SCHMM is modified so tha
8、t the cost of search is reduced in terms of both time and space, in case of no accuracy lost evidently. 4. A continuous speech recognition system based on SCHMM in real world is implemented.目录目 录第一章 概述11.1 语音识别11.1.1 语音识别的应用价值21.1.2 语音识别的理论意义41.2 国内外发展状况41.3 本文主要工作71.4 本文内容安排8第二章 语音识别的基本模型92.1 语音识别的
9、基本结构及方法92.2 HMM的基本结构102.3 HMM的三个基本问题122.4 HMM的分类162.4.1 DHMM(离散HMM)172.4.2 CHMM(连续HMM)172.4.3 SCHMM(半连续HMM)18第三章 SCHMM的训练方法193.1 SCHMM初始码本生成193.1.1 聚类的基本原理及方法193.1.2 译码器扰动简化随机松弛聚类算法(SR-D)213.1.3 小结233.2 SCHMM的训练233.2.1 基于Baum-Welch的前后项训练方法243.2.2 溢出的分析及解决273.2.3 句子单元信息31第四章 SCHMM的连续语音搜索方法334.1 连续语音的
10、Viterbi解码算法344.2 N-Best搜索算法354.3 静音处理方法364.3.1 基于时域的端点检测方法374.3.2 基于HMM的音节间检测方法384.4.提高搜索速度的几种方法384.4.1 码本剪枝策略384.4.2 Beam剪枝策略404.4.3 降低精度策略42第五章 系统与实验445.1 数据库的建立445.2 系统的实现455.2.1 训练程序465.2.2 识别程序495.3 实验和分析525.3.1 码本数对识别结果的影响535.3.2 状态数对识别结果的影响535.3.3 帧长对识别结果的影响545.3.4 系统的性能和评价54第六章 总结57参考文献60个人简
11、历64致谢65第一章 概述第一章 概述1.1 语音识别现代语音识别是用电子计算机从人的语音信号中提取信息,确定其语言含义的过程。它是一门交叉学科,多个领域的研究工作者参与其中,因此又可被归于多个大学科。在计算机大学科中,它是智能计算机的智能接口科学;在信息处理大学科中,它是信息识别的一个重要分支;在通信及电子系统、电路、信号及系统等大学科中,它属于信息或通信系统的信息处理学科;在自动化学科中,它是模式识别的一个重要研究对象。同时语言学家和生理学家也对这种用机器识别人类语言的技术不断作出自己的贡献。于是,语音识别成为一门与人工智能、数字信号处理理论、模式识别理论、统计信息理论、最优化理论、计算机
12、科学以及声学、语言学、语义学、脑科学、生理学等众多学科紧密相连的综合学科。目前,语音识别系统有多种工作方式,人们常常从不同的角度对识别系统进行分类:1. 按说话方式及语言规则:l 孤立词(Isolated Word)识别:被识别的基本单位的语音之间有明显的停顿间隔。这种系统的识别正确率最高,但输入语音速度较慢,而且使用者常常感到语音输入方式不自然;l 连接词(Connected Word)识别:被识别的基本单位的语音可连续输入而不必停顿,同时对输入的基本单位的顺序没有限制。如:象电话号码这样的数字串就可用连接词识别法。它的缺点是应用范围不广,而且识别正确率较低。l 连续语音(Continuou
13、s Speech)识别:被识别的基本单位的语音可连续输入而不必停顿,同时对输入的基本单位的顺序有语法语义上的限制。连续语音的输入方式比较接近自然,输入语音速度较快,但识别正确率远远低于对孤立词和连接词的识别。l 自然口语(Natural Speaking)识别:可以看作一种更高级的连续语音输入方式。说话者完全用自己习惯的自然方式输入语音。语音完全口语化语音可以随意地连续、停顿和快慢变化,可以有无关的内容(如:咂嘴的声音、“嗯”等),可以有重复、错误和修改(如:“他住在四一三,噢,四一四房间”),语法上没有书面语那样较严格的限制。自然口语识别是语音识别的最高阶段,也是现在的一个研究热点。尽管这四
14、种语音输入方式有或多或少的区别,但实际系统常常包含了许多相同或相似的模块和算法。如:语音信号预处理部分有时可以通用于这四种系统,这四种系统可以使用相同的声学模型,连续语音系统和自然口语系统也可以共享一些语言后处理的算法,等等。2. 按词汇量大小:l 小词汇量(small vocabulary)识别:可识别词数少于500个;l 中词汇量(medium vocabulary)识别:可识别词数大于500但小于2000个;l 大词汇量(large vocabulary)识别:可识别词数大于2000个。随着词汇量的增加,在特征空间中相邻词的距离减小了,而词与词交叉重叠的机会增大,所以识别也越困难。3.
15、按被识别人范围:l 特定人(speaker dependent)识别:语音识别系统专门为特定人定制,当对这个人进行语音识别时,系统可达到一定令人满意的识别正确率;l 非特定人(speaker independent) 识别:系统可以对所有人的语音产生较好的识别结果。实际上,许多非特定人的识别系统都具有自适应功能,可以用一个使用者的输入对系统参数继续进行训练,以对这个人达到更好的识别效果,这样非特定人似乎就变成了特定人识别系统。所以非特定人系统和特定人系统往往没有一个绝对的界限。1.1.1 语音识别的应用价值语音识别有极其巨大的应用价值,这主要表现在以下几方面:1. 一种非常自然的文字输入方法人类希望将自己的语言记录下来,传统上可以通过书写等物理手段进行具体的保留。现在,更准确、可靠和容易加工的手段是输入计算机以抽象数据编码的形式进行记录。最常用的方式是用键盘输入,这要求使用者必须经过专门的训练,而对普通用户又不太现实。尤其对于使用汉语的中国人的来说,困难就更大,因为汉字是象形文