DBN),促使了深度神经网络(DNN)研究的复苏。2009年,Hinton将DNN应用于语音的声学建模,在TIMIT上获得了当时比较好的结果。2011年底,微软研究院的俞栋、邓力又把DNN技术应用在了大词汇量连续语音识别任务上,降低了语音识别错误率。从此语音识别进入DNN-HMM时代。DNN-HMM主要是用DNN模型代替原来的GMM模型,对每一个状态进行建模,DNN带来的好处是不再需要对语音数据分布进行假设,将相邻的语音帧拼接又包含了语音的时序结构信息,使得对于状态的分类概率有了明显提升,同时DNN还具有强大环境学习能力,可以提升对噪声和口音的鲁棒性。简单来说,DNN就是给出输入的一串特征所对应的状态概率。由于语音信号是连续的,不仅各个音素、音节以及词之间没有明显的边界,各个发音单位还会受到上下文的影响。虽然拼帧可以增加上下文信息,但对于语音来说还是不够。而递归神经网络(RNN)的出现可以记住更多历史信息,更有利于对语音信号的上下文信息进行建模。由于简单的RNN存在梯度和梯度消散问题,难以训练,无法直接应用于语音信号建模上,因此学者进一步探索,开发出了很多适合语音建模的RNN结构,其中有名的就是LSTM。
自动语音识别(Automatic Speech Recognition, ASR),也可以简称为语音识别。四川语音识别系统
CNN本质上也可以看作是从语音信号中不断抽取特征的一个过程。CNN相比于传统的DNN模型,在相同性能情况下,前者的参数量更少。综上所述,对于建模能力来说,DNN适合特征映射到空间,LSTM具有长短时记忆能力,CNN擅长减少语音信号的多样性,因此一个好的语音识别系统是这些网络的组合。端到端时代语音识别的端到端方法主要是代价函数发生了变化,但神经网络的模型结构并没有太大变化。总体来说,端到端技术解决了输入序列的长度远大于输出序列长度的问题。端到端技术主要分成两类:一类是CTC方法,另一类是Sequence-to-Sequence方法。传统语音识别DNN-HMM架构里的声学模型,每一帧输入都对应一个标签类别,标签需要反复的迭代来确保对齐更准确。采用CTC作为损失函数的声学模型序列,不需要预先对数据对齐,只需要一个输入序列和一个输出序列就可以进行训练。CTC关心的是预测输出的序列是否和真实的序列相近,而不关心预测输出序列中每个结果在时间点上是否和输入的序列正好对齐。CTC建模单元是音素或者字,因此它引入了Blank。对于一段语音,CTC**后输出的是尖峰的序列,尖峰的位置对应建模单元的Label,其他位置都是Blank。四川语音识别系统语音识别技术在个人助理、智能家居等很多领域都有运用到。
自2015年以来,谷歌、亚马逊、百度等公司陆续开始了对CTC模型的研发和使用,并且都获得了不错的性能提升。2014年,基于Attention(注意力机制)的端到端技术在机器翻译领域中得到了广的应用并取得了较好的实验结果,之后很快被大规模商用。于是,JanChorowski在2015年将Attention的应用扩展到了语音识别领域,结果大放异彩。在近的两年里,有一种称为Seq2Seq(SequencetoSequence)的基于Attention的语音识别模型在学术界引起了极大的关注,相关的研究取得了较大的进展。在加拿大召开的国际智能语音领域的会议ICASSP2018上,谷歌公司发表的研究成果显示,在英语语音识别任务上,基于Attention的Seq2Seq模型表现强劲,它的识别结果已经超越了其他语音识别模型。但Attention模型的对齐关系没有先后顺序的限制,完全靠数据驱动得到,对齐的盲目性会导致训练和解码时间过长。而CTC的前向后向算法可以引导输出序列与输入序列按时间顺序对齐。因此CTC和Attention模型各有优势,可把两者结合起来。构建HybridCTC/Attention模型,并采用多任务学习,以取得更好的效果。2017年,Google和多伦多大学提出一种称为Transformer的全新架构,这种架构在Decoder和Encoder中均采用Attention机制。
3)上述两个问题的共性是目前的深度学习用到了语音信号各个频带的能量信息,而忽略了语音信号的相位信息,尤其是对于多通道而言,如何让深度学习更好的利用相位信息可能是未来的一个方向。(4)另外,在较少数据量的情况下,如何通过迁移学习得到一个好的声学模型也是研究的热点方向。例如方言识别,若有一个比较好的普通话声学模型,如何利用少量的方言数据得到一个好的方言声学模型,如果做到这点将极大扩展语音识别的应用范畴。这方面已经取得了一些进展,但更多的是一些训练技巧,距离目标还有一定差距。(5)语音识别的目的是让机器可以理解人类,因此转换成文字并不是终的目的。如何将语音识别和语义理解结合起来可能是未来更为重要的一个方向。语音识别里的LSTM已经考虑了语音的历史时刻信息,但语义理解需要更多的历史信息才能有帮助,因此如何将更多上下文会话信息传递给语音识别引擎是一个难题。(6)让机器听懂人类语言,靠声音信息还不够,“声光电热力磁”这些物理传感手段,下一步必然都要融合在一起,只有这样机器才能感知世界的真实信息,这是机器能够学习人类知识的前提条件。而且,机器必然要超越人类的五官,能够看到人类看不到的世界。
语料的标注需要长期的积累和沉淀,大规模语料资源的积累需要被提高到战略高度。
提升用户体验,仍然是要重点解决的问题。口语化。每个说话人的口音、语速和发声习惯都是不一样的,尤其是一些地区的口音(如南方口音、山东重口音),会导致准确率急剧下降。还有电话场景和会议场景的语音识别,其中包含很多口语化表达,如闲聊式的对话,在这种情况下的识别效果也很不理想。因此语音识别系统需要提升自适应能力,以便更好地匹配个性化、口语化表达,排除这些因素对识别结果的影响,达到准确稳定的识别效果。低资源。特定场景、方言识别还存在低资源问题。手机APP采集的是16kHz宽带语音。有大量的数据可以训练,因此识别效果很好,但特定场景如银行/证券柜台很多采用专门设备采集语音,保存的采样格式压缩比很高,跟一般的16kHz或8kHz语音不同,而相关的训练数据又很缺乏,因此识别效果会变得很差。低资源问题同样存在于方言识别,中国有七大方言区,包括官话方言(又称北方方言)、吴语、湘语、赣语、客家话、粤语、闽语(闽南语),还有晋语、湘语等分支,要搜集各地数据(包括文本语料)相当困难。因此如何从高资源的声学模型和语言模型迁移到低资源的场景,减少数据搜集的代价,是很值得研究的方向。语种混杂(code-switch)。在日常交流中。可以删减一组可能的转录语句以保持易处理性。四川语音识别系统
原理语音识别技术是让机器通过识别把语音信号转变为文本,进而通过理解转变为指令的技术。四川语音识别系统
美国**部下属的一个名为美国**高级研究计划局(DefenseAdvancedResearchProjectsAgency,DARPA)的行政机构,在20世纪70年代介入语音领域,开始资助一项旨在支持语言理解系统的研究开发工作的10年战略计划。在该计划推动下,诞生了一系列不错的研究成果,如卡耐基梅隆大学推出了Harpy系统,其能识别1000多个单词且有不错的识别率。第二阶段:统计模型(GMM-HMM)到了20世纪80年代,更多的研究人员开始从对孤立词识别系统的研究转向对大词汇量连续语音识别系统的研究,并且大量的连续语音识别算法应运而生,例如分层构造(LevelBuilding)算法等。同时,20世纪80年代的语音识别研究相较于20世纪70年代,另一个变化是基于统计模型的技术逐渐替代了基于模板匹配的技术。统计模型两项很重要的成果是声学模型和语言模型,语言模型以n元语言模型(n-gram),声学模型以HMM。HMM的理论基础在1970年前后由Baum等人建立,随后由卡耐基梅隆大学(CMU)的Baker和IBM的Jelinek等人应用到语音识别中。在20世纪80年代中期,Bell实验室的.Rabiner等人对HMM进行了深入浅出的介绍。并出版了语音识别专著FundamentalsofSpeechRecognition,有力地推动了HMM在语音识别中的应用。四川语音识别系统