另外 , 这样的帧到帧映射模型不能转换时长 。 而实际情况是有的人说话比较快 , 有的人说话比较慢 , 怎么把说话人的语速特点体现出来呢?
这是我们设计的模型结构 。 模型输入除了从源说话人语音中提取的声学特征序列外 , 还拼接了利用语音识别声学模型提取的文本相关特征 , 以协助序列对齐 。 模型输出就是从目标说话人平行语句中提取的声学特征序列 。 其中输出与输入序列长度并不一致 。
以下是实验结果 。 图中横坐标是真实目标说话人语音的时长 , 纵坐标是转换后的语音时长 。 如果语音转换模型有比较好的时长调整效果 , 那么数据点应该落在对角线上 。 图中绿色点所示的是传统逐帧转换方法的结果 , 从中可以看出源与目标发音人之间显著的语速差异 。 红色点对应的是所提出的序列到序列语音转换方法 , 可以看出其取得了良好的时长转换效果 。
已有的非平行语料语音转换大体上有两个思路:
基于非平行数据构造平行数据 。 构造方法包括语音合成、帧挑选等 。 CycleGAN神经网络模型也可以归入此类方法 。
分离语音中的文本与话者表征 。 包括利用语音识别器提取音素后验概率(PPG)的方法 , 以及基于自编码器与变分自编码器的方法等 。
推荐阅读
-
-
文章|离婚后更潇洒!美女深夜为文章擦泪戴帽 同回住所
-
-
-
王诗龄谈恋爱了?疑似约会私照流出,李湘富养观念要翻车
-
-
一名90后辣妈妈:号称永不倒闭,最后声名狼藉,又一国产企业倒下?曾经的国产巨头
-
-
-
大千足球@但是大罗真的属于另一个级别,托蒂:我不是不尊重梅西或C罗
-
-
TVB|被雪藏3个月首现身幕前,TVB小花仍剧组回归无期,近况更现幸福肥
-
-
-
兰德酷路泽|今年最讨人喜欢的三款中大型SUV,竟有理想ONE,还是电动车
-
-
销售|开发投资转正、销售降幅收窄,楼市或基本走出疫情影响
-
疯狂|心动的信号5:“芋圆CP”合体营业,疯狂秀恩爱,就差一个官宣了
-
“女友是二婚,打算结婚准岳母提已一要求,让我想退婚了”
-
##CPU性能提升就像“挤牙膏”,为什么显卡每一代提升都那么大?