自2015年以来,谷歌、亚马逊、百度等公司陆续开始了对CTC模型的研发和使用,并且都获得了不错的性能提升。2014年,基于Attention(注意力机制)的端到端技术在机器翻译领域中得到了广的应用并取得了较好的实验结果,之后很快被大规模商用。于是,JanChorowski在2015年将Attention的应用扩展到了语音识别领域,结果大放异彩。在近的两年里,有一种称为Seq2Seq(SequencetoSequence)的基于Attention的语音识别模型在学术界引起了极大的关注,相关的研究取得了较大的进展。在加拿大召开的国际智能语音领域的会议ICASSP2018上,谷歌公司发表的研究成果显示,在英语语音识别任务上,基于Attention的Seq2Seq模型表现强劲,它的识别结果已经超越了其他语音识别模型。但Attention模型的对齐关系没有先后顺序的限制,完全靠数据驱动得到,对齐的盲目性会导致训练和解码时间过长。而CTC的前向后向算法可以引导输出序列与输入序列按时间顺序对齐。因此CTC和Attention模型各有优势,可把两者结合起来。构建HybridCTC/Attention模型,并采用多任务学习,以取得更好的效果。2017年,Google和多伦多大学提出一种称为Transformer的全新架构,这种架构在Decoder和Encoder中均采用Attention机制。智能玩具语音识别技术的智能化也让玩具行业进行了变革,比如智能语音娃娃、智能语音儿童机器人。湖北语音识别教程
并能产生兴趣投身于这个行业。语音识别的技术历程现代语音识别可以追溯到1952年,Davis等人研制了世界上个能识别10个英文数字发音的实验系统,从此正式开启了语音识别的进程。语音识别发展到已经有70多年,但从技术方向上可以大体分为三个阶段。下图是从1993年到2017年在Switchboard上语音识别率的进展情况,从图中也可以看出1993年到2009年,语音识别一直处于GMM-HMM时代,语音识别率提升缓慢,尤其是2000年到2009年语音识别率基本处于停滞状态;2009年随着深度学习技术,特别是DNN的兴起,语音识别框架变为DNN-HMM,语音识别进入了DNN时代,语音识别精细率得到了提升;2015年以后,由于“端到端”技术兴起,语音识别进入了百花齐放时代,语音界都在训练更深、更复杂的网络,同时利用端到端技术进一步大幅提升了语音识别的性能,直到2017年微软在Swichboard上达到词错误率,从而让语音识别的准确性超越了人类,当然这是在一定限定条件下的实验结果,还不具有普遍代表性。GMM-HMM时代70年代,语音识别主要集中在小词汇量、孤立词识别方面,使用的方法也主要是简单的模板匹配方法,即首先提取语音信号的特征构建参数模板,然后将测试语音与参考模板参数进行一一比较和匹配。
湖北语音识别教程语音识别自半个世纪前诞生以来,一直处于不温不火的状态。
特别是在Encoder层,将传统的RNN完全用Attention替代,从而在机器翻译任务上取得了更优的结果,引起了极大关注。随后,研究人员把Transformer应用到端到端语音识别系统中,也取得了非常明显的改进效果。另外,生成式对抗网络(GenerativeAdversarialNetwork,GAN)是近年来无监督学习方面具前景的一种新颖的深度学习模型,"GenerativeAdversarialNets",文中提出了一个通过对抗过程估计生成模型框架的全新方法。通过对抗学习,GAN可用于提升语音识别的噪声鲁棒性。GAN网络在无监督学习方面展现出了较大的研究潜质和较好的应用前景。从一个更高的角度来看待语音识别的研究历程,从HMM到GMM,到DNN,再到CTC和Attention,这个演进过程的主线是如何利用一个网络模型实现对声学模型层面更准的刻画。换言之,就是不断尝试更好的建模方式以取代基于统计的建模方式。在2010年以前,语音识别行业水平普遍还停留在80%的准确率以下。机器学习相关模型算法的应用和计算机性能的增强,带来了语音识别准确率的大幅提升。到2015年,识别准确率就达到了90%以上。谷歌公司在2013年时,识别准确率还只有77%,然而到2017年5月时,基于谷歌深度学习的英语语音识别错误率已经降低到。
语音识别是一门综合性学科,涉及的领域非常广,包括声学、语音学、语言学、信号处理、概率统计、信息论、模式识别和深度学习等。语音识别的基础理论包括语音的产生和感知过程、语音信号基础知识、语音特征提取等,关键技术包括高斯混合模型(GaussianMixtureModel,GMM)、隐马尔可夫模型(HiddenMarkovModel,HMM)、深度神经网络(DeepNeuralNetwork,DNN),以及基于这些模型形成的GMM-HMM、DNN-HMM和端到端(End-to-End,E2E)系统。语言模型和解码器也非常关键,直接影响语音识别实际应用的效果。为了让读者更好地理解语音信号的特性,接下来我们首先介绍语音的产生和感知机制。语音的产生和感知人的发音qi官包括:肺、气管、声带、喉、咽、鼻腔、口腔和唇。肺部产生的气流冲击声带,产生振动。声带每开启和闭合一次的时间是一个基音周期(Pitchperiod)T,其倒数为基音频率(F0=1/T,基频),范围在70Hz~450Hz。基频越高,声音越尖细,如小孩的声音比大人尖,就是因为其基频更高。基频随时间的变化,也反映声调的变化。人的发音qi官声道主要由口腔和鼻腔组成,它是对发音起重要作用的qi官,气流在声道会产生共振。前面五个共振峰频率(F1、F2、F3、F4和F5)。反映了声道的主要特征。语音识别是项融多学科知识的前沿技术,覆盖数学与统计学、声学与语言学、计算机与人工智能等基础前沿学科。
因此一定是两者融合才有可能更好地解决噪声下的语音识别问题。(3)上述两个问题的共性是目前的深度学习用到了语音信号各个频带的能量信息,而忽略了语音信号的相位信息,尤其是对于多通道而言,如何让深度学习更好的利用相位信息可能是未来的一个方向。(4)另外,在较少数据量的情况下,如何通过迁移学习得到一个好的声学模型也是研究的热点方向。例如方言识别,若有一个比较好的普通话声学模型,如何利用少量的方言数据得到一个好的方言声学模型,如果做到这点将极大扩展语音识别的应用范畴。这方面已经取得了一些进展,但更多的是一些训练技巧,距离目标还有一定差距。(5)语音识别的目的是让机器可以理解人类,因此转换成文字并不是终的目的。如何将语音识别和语义理解结合起来可能是未来更为重要的一个方向。语音识别里的LSTM已经考虑了语音的历史时刻信息,但语义理解需要更多的历史信息才能有帮助,因此如何将更多上下文会话信息传递给语音识别引擎是一个难题。(6)让机器听懂人类语言,靠声音信息还不够,“声光电热力磁”这些物理传感手段,下一步必然都要融合在一起,只有这样机器才能感知世界的真实信息,这是机器能够学习人类知识的前提条件。而且。一般都是可以理解的文本内容,也有可能是二进制编码或者字符序列。新疆语音识别字
声学模型是语音识别系统中为重要的部分之一。湖北语音识别教程
随着语音识别技术的不断发展和进步,也应用到越来越多的产品跟领域中。它们都少不了语音识别芯片、语音识别模块的支持。那么市面上有哪些语音识别模块好用呢?哪些领域又运用到语音识别技术呢?语音识别模块具有语音识别及播报功能,需要挂spl-Flash,存储词条或者语音播放内容。还具备有工业级性能,同时还具有识别率高、简单易用、更新词条方便等优势。语音识别模块被广泛应用在AI人工智能产品、智能家居遥控、智能玩具等多种领域上。语音识别技术应用领域有哪些语音识别技术的应用领域:智能家电遥控如今很多家电都已经智能化了,用一个小小的遥控器就可以把家里所有的电器用语音操控起来,比如客厅的电视、空调、窗帘等。以前要一个个遥控器换着操控,如今只需要结合到一个遥控器就可以让这些操作轻松实现。语音识别技术的应用领域:智能玩具语音识别技术的智能化也让玩具行业进行了变革,越来越多的智能玩具被研发出来,比如智能语音娃娃、智能语音儿童机器人。湖北语音识别教程