乐山信息港

当前位置:

ISCSLP2016思必驰俞凯解析深度学

2019/05/14 来源:乐山信息港

导读

ISCSLP中文口语语言处理会议由国际学术协会ISCA的中文学术小组SIG-CSLP主办,为全球针对中文语言处理技术所举办的大型国际研讨

ISCSLP中文口语语言处理会议由国际学术协会ISCA的中文学术小组SIG-CSLP主办,为全球针对中文语言处理技术所举办的大型国际研讨会,并由新加坡、中国大陆、台湾及香港等四个国家和地区轮番举办,该会议已经发展成为中文语言处理技术相干领域重要的国际研讨会。

图1 ISCSLP2016大会现场

2016年10月17日至20日,第十届中文口语语言处理国际会议ISCSLP2016 在天津召开,会议聚集了来自全球各地学界和产业界的人士,并向全球征集业界前沿学术论文稿件,展现前沿科技成果,结合当前产业发展态势,共同探讨语言处理的未来发展趋势。

图2 思必驰首席科学家俞凯现场

10月18日下午,思必驰首席科学家/联合创始人、上海交通大学俞凯教授,在大会新技术产业论坛上,进行了题为《基础技术创新推动产业进步》的主题分享。俞凯教授表示,智能语音在经历着从感知智能到认知智能的飞跃,解决如何使智能语音进行理解、决策及表述的问题非常重要。俞凯教授强调技术型公司原始创新的重要性,侧重介绍了思必驰基于深度学习的语音辨认技术,如,VDCNN算法在降噪处理上表现出不可取代的优势;帧同步解码转换为音素同步解码搜索空间减少80%以上等技术成果。依托稳健的研究实力,思必驰用实际行动践行着作为技术型公司应有的创新、原创精神。

思必驰专注为智能硬件提供自然语言交互方案,为智能车载、智能家居、智能机器人三个垂直领域定制基于交互场景的语音方案。根据不同应用场景,思必驰依托强大的研发实力满足用户在不同场景下的个性化需求。虽然目前国内智能语音领域,通用的开源工具应用较多,难度较低,但通用的开源工具在效率和权限上有极大局限性,既没法满足特定的前沿算法需求,也常常无法满足用户基于场景的个性化需求,不同专业领域的算法、数据、架构等都要依托实际应用进行搭建及优化。因此,思必驰专注技术研发,用技术实力说话,通过定制方案满足用户个性化需求。

如何确保技术的专业性与前沿性呢?思必驰成立之初即与上海交大成立联合实验室Speech Lab,由思必驰联合创始人,上海交通大学教授俞凯全权负责,专注智能语音技术的研发与运用,思必驰具有独立知识产权,并积极促进前端科研成果的商业化转化与运用。正如俞凯教授在演讲中所提,近期,思必驰上海交大联合实验室的科研工作又取得了极大突破。

1. 抗噪处理:VDCNN算法模型结构

噪声环境下的语音识别一直以来是一个困难。目前基于深度学习的主流语音识别技术及引擎,已经可以在很多信噪比相对比较好的环境下取得良好的准确率,但是在面对真实环境下的多类别强噪声情况环境(比如车载噪声、家居远场回声等),性能变会急剧下降,远远不能满足实际运用的需求。

思必驰和上海交大联合实验室,对基于噪声条件下的语音识别问题进行了深入的研究,历时一年多以来,提出了VDCNN算法模型结构。相比于传统语音模型仅使用1至2层卷积层,思必驰通过堆叠较小的卷积层和池化层,将语音模型中的卷积层的深度提高到了10层以上。利用小卷积核更加精细的局部刻画能力和频率不变性描述,能够更好地在语音模型的内部实现了声学自动降噪的能力。

思必驰上海交大联合实验室目前所提出的模型和架构,在噪声环境语音辨认的业界基准库Aurora4上,取得了7.09%的词错误率。相比于世界其他机构目前10%左右的结果,有一个大幅度的明显优势,在抗噪语音辨认上是一个新的里程碑。另外,除多类别的加性噪声,此模型也被验证在远场辨认环境下也具有明显的优势。近5年,在Aurora4噪声数据库上,公然可查的世界上研究机构语音识别系统比较如下图所示:

图3 Aurura WER{%)

思必驰上海交大联合实验室VDCNN算法模型结构,不但在噪声环境下具有非常好的准确率,还具有训练收敛速度快,模型参数范围小等优势,这些特点都为VDCNN的真实使用提供了便利。

2. 新型解码框架:Phone Synchronous Decoding

大词汇连续语音识别由于词汇量庞大且没有固定语法,会造成搜索空间非常庞大。目前,通过很多传统做法可以加快语音识别速度,如,离线基于WFST的搜索空间预优化,逐帧同步维特比解码,结合可变帧率分析等方法。但是,离线优化效果有限,逐帧搜索计算量大,而大量剪枝算法会引入搜索误差。因此目前主流的大词汇连续语音识别系统只能工作在云端。

近来,连接时序模型(CTC)取代传统隐马尔科夫模型(HMM),被应用到语音辨认中,其特点显著,能够针对识别序列进行整体建模,带来更好的前后文建模能力,使语音识别的建模单元显著减少,并使庞大搜索空间相应减小。另一方面,模型本身建模了多帧对一个音素的映射关系,使得模型输出的声学信息集中。根据模型输出特点,适宜采用更长的搜索步长,由逐帧同步解码,转变为音素同步解码,从而减少了搜索计算量。

思必驰结合以上两点改进,使语音辨认系统的速度积累提高倍,内存下降50%以上,从而使得大词汇连续语音辨认可以应用于离线手持设备;而基于该系统提出的置信度算法,得益于集中的声学信息和相应设计的优化算法,取得近一倍的提升。显著改良了语音识别系统的用户体验。

近年来,思必驰凭仗原始技术创新,在智能车载、智能家居、智能机器人等领域的语音市场展开了布局,与阿里、小米、联想、海尔、美的、庆科、浙江大华等企业建立了战略合作关系,为广大用户带来流畅的语音交互体验。基础技术创新一定会推动产业化进步,思必驰重视技术及人才价值,打造更人性化的语音交互。

有点盆腔炎怎么办
分泌物增多是怎么回事
得了盆腔炎该怎么办
标签