深圳未来语音识别内容

    主流方向是更深更复杂的神经网络技术融合端到端技术。2018年，科大讯飞提出深度全序列卷积神经网络（DFCNN），DFCNN使用大量的卷积直接对整句语音信号进行建模，主要借鉴了图像识别的网络配置，每个卷积层使用小卷积核，并在多个卷积层之后再加上池化层，通过累积非常多卷积池化层对，从而可以看到更多的历史信息。2018年，阿里提出LFR-DFSMN（LowerFrameRate-DeepFeedforwardSequentialMemoryNetworks）。该模型将低帧率算法和DFSMN算法进行融合，语音识别错误率相比上一代技术降低20%，解码速度提升3倍。FSMN通过在FNN的隐层添加一些可学习的记忆模块，从而可以有效的对语音的长时相关性进行建模。而DFSMN是通过跳转避免深层网络的梯度消失问题，可以训练出更深层的网络结构。2019年，百度提出了流式多级的截断注意力模型SMLTA，该模型是在LSTM和CTC的基础上引入了注意力机制来获取更大范围和更有层次的上下文信息。其中流式表示可以直接对语音进行一个小片段一个小片段的增量解码；多级表示堆叠多层注意力模型；截断则表示利用CTC模型的尖峰信息，把语音切割成一个一个小片段，注意力模型和解码可以在这些小片段上展开。在线语音识别率上。它融合了语言学、计算机科学和电气工程领域的知识和研究。深圳未来语音识别内容

    Hinton提出深度置信网络（DBN），促使了深度神经网络（DNN）研究的复苏。2009年，Hinton将DNN应用于语音的声学建模，在TIMIT上获得了当时好的结果。2011年底，微软研究院的俞栋、邓力又把DNN技术应用在了大词汇量连续语音识别任务上，降低了语音识别错误率。从此语音识别进入DNN-HMM时代。DNN-HMM主要是用DNN模型代替原来的GMM模型，对每一个状态进行建模，DNN带来的好处是不再需要对语音数据分布进行假设，将相邻的语音帧拼接又包含了语音的时序结构信息，使得对于状态的分类概率有了明显提升，同时DNN还具有强大环境学习能力，可以提升对噪声和口音的鲁棒性。简单来说，DNN就是给出输入的一串特征所对应的状态概率。由于语音信号是连续的，各个音素、音节以及词之间没有明显的边界，各个发音单位还会受到上下文的影响。虽然拼帧可以增加上下文信息，但对于语音来说还是不够。而递归神经网络（RNN）的出现可以记住更多历史信息，更有利于对语音信号的上下文信息进行建模。由于简单的RNN存在梯度炸和梯度消散问题，难以训练，无法直接应用于语音信号建模上，因此学者进一步探索，开发出了很多适合语音建模的RNN结构，其中有名的就是LSTM。广州电子类语音识别一些语音识别系统需要“训练”(也称为“注册”)，其中个体说话者将文本或孤立的词汇读入系统。

    它相对于GMM-HMM系统并没有什么优势可言，研究人员还是更倾向于基于统计模型的方法。在20世纪80年代还有一个值得一提的事件，美国3eec6ee2-7378-4724-83b5-9b技术署(NIST)在1987年di一次举办了NIST评测，这项评测在后来成为了全球语音评测。20世纪90年代，语音识别进入了一个技术相对成熟的时期，主流的GMM-HMM框架得到了更广的应用，在领域中的地位越发稳固。声学模型的说话人自适应(SpeakerAdaptation)方法和区分性训练(DiscriminativeTraining)准则的提出，进一步提升了语音识别系统的性能。1994年提出的大后验概率估计(MaximumAPosterioriEstimation，MAP)和1995年提出的*大似然线性回归(MaximumLikelihoodLinearRegression，MLLR)，帮助HMM实现了说话人自适应。*大互信息量(MaximumMutualInformation，MMI)和*小分类错误(MinimumClassificationError，MCE)等声学模型的区分性训练准则相继被提出，使用这些区分性准则去更新GMM-HMM的模型参数，可以让模型的性能得到提升。此外，人们开始使用以音素字词单元作为基本单元。一些支持大词汇量的语音识别系统被陆续开发出来，这些系统不但可以做到支持大词汇量非特定人连续语音识别。

    DFCNN使用大量的卷积直接对整句语音信号进行建模，主要借鉴了图像识别的网络配置，每个卷积层使用小卷积核，并在多个卷积层之后再加上池化层，通过累积非常多卷积池化层对，从而可以看到更多的历史信息。2018年，阿里提出LFR-DFSMN（LowerFrameRate-DeepFeedforwardSequentialMemoryNetworks）。该模型将低帧率算法和DFSMN算法进行融合，语音识别错误率相比上一代技术降低20%，解码速度提升3倍。FSMN通过在FNN的隐层添加一些可学习的记忆模块，从而可以有效的对语音的长时相关性进行建模。而DFSMN是通过跳转避免深层网络的梯度消失问题，可以训练出更深层的网络结构。2019年，百度提出了流式多级的截断注意力模型SMLTA，该模型是在LSTM和CTC的基础上引入了注意力机制来获取更大范围和更有层次的上下文信息。其中流式表示可以直接对语音进行一个小片段一个小片段的增量解码；多级表示堆叠多层注意力模型；截断则表示利用CTC模型的尖峰信息，把语音切割成一个一个小片段，注意力模型和解码可以在这些小片段上展开。在线语音识别率上，该模型比百度上一代DeepPeak2模型提升相对15%的性能。开源语音识别Kaldi是业界语音识别框架的基石。

    一个连续语音识别系统大致包含了四个主要部分：特征提取、声学模型、语言模型和解码器等。

    已有20年历史了，在Github和SourceForge上都已经开源了，而且两个平台上都有较高的活跃度。（2）Kaldi从2009年的研讨会起就有它的学术根基了，现在已经在GitHub上开源，开发活跃度较高。（3）HTK始于剑桥大学，已经商用较长时间，但是现在版权已经不再开源软件了。它的新版本更新于2015年12月。（4）Julius起源于1997年，一个主版本发布于2016年9月，主要支持的是日语。（5）ISIP是新型的开源语音识别系统，源于密西西比州立大学。它主要发展于1996到1999年间，版本发布于2011年，遗憾的是，这个项目已经不复存在。语音识别技术研究难点目前，语音识别研究工作进展缓慢，困难具体表现在：（1）输入无法标准统一比如，各地方言的差异，每个人独有的发音习惯等，口腔中元音随着舌头部位的不同可以发出多种音调，如果组合变化多端的辅音，可以产生大量的、相似的发音，这对语音识别提出了挑战。除去口音参差不齐，输入设备不统一也导致了语音输入的不标准。（2）噪声的困扰噪声环境的各类声源处理是目前公认的技术难题，机器无法从各层次的背景噪音中分辨出人声，而且，背景噪声千差万别，训练的情况也不能完全匹配真实环境。因而。主流语音识别框架还是由 3 个部分组成：声学模型、语言模型和解码器，有些框架也包括前端处理和后处理。广州电子类语音识别

为了能够更加清晰的定义语音识别的任务，先来看一下语音识别的输入和输出都是什么。深圳未来语音识别内容

    feed-forwardsequentialmemorynetwork，FSMN)，在DNN的隐层旁增加了一个“记忆模块”，这个记忆模块用来存储对判断当前语音帧有用的语音信号的历史信息和未来信息，并且只需等待有限长度的未来语音帧。随后，科大讯飞进一步提出了深度全序列卷积神经网络(DFCNN)。2018年，阿里巴巴改良并开源了语音识别模型DFSMN(DeepFSMN)。2018年，中科院自动化所率先把Transformer应用到语音识别任务，并进一步拓展到中文语音识别。不管是在研究成果还是在产品性能体验上，国内的语音行业整体水平已经达到甚至超越了国际水平。2016年10月，时任百度首席科学家的吴恩达在对微软的语音识别技术与人类水平持平的消息表示祝贺的同时声称，百度的汉语语音识别在2015年就已经超越了人类的平均水平，也就是说百度比微软提前一年实现了这一成绩。当前语音识别系统依然面临着不少应用挑战，其中包括以下主要问题：鲁棒性。目前语音识别准确率超过人类水平主要还是在受限的场景下，比如在安静环境的情况下，而一旦加入干扰信号，尤其是环境噪声和人声干扰，性能往往会明显下降。因此，如何在复杂场景(包括非平稳噪声、混响、远场)下，提高语音识别的鲁棒性，研发"能用=>好用"的语音识别产品。深圳未来语音识别内容