买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉天津大学申请的专利一种解耦式语音自监督预训练方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN118841029B 。

龙图腾网通过国家知识产权局官网在2025-11-28发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411011648.9，技术领域涉及：G10L25/24；该发明授权一种解耦式语音自监督预训练方法是由王龙标;王天锐;李津设计研发完成，并于2024-07-26向国家知识产权局提交的专利申请。

本一种解耦式语音自监督预训练方法在说明书摘要公布了：本发明公开了一种解耦式语音自监督预训练方法，包括预训练和微调两个阶段。构建以卷积、Transformer、音高变化处理器和说话人信息处理器为核心的自监督预训练模型。输入语音后，卷积模块将语音编码为帧级特征；音高变化处理器提取音高变化表征，并从主分支剔除，将其替换为掩蔽向量后输入Transformer编码器。在编码器中间层加入说话人处理器模块来提取说话人表征，并从主分支表征中剔除。继续编码处理，最终映射到目标语音表征维度。第一轮预训练后，提取中间层表征，训练第二个K‑Means模型生成新的伪标签目标，进行第二轮预训练。利用加权求和机制获得任务特定表征，适用于各种下游任务。

本发明授权一种解耦式语音自监督预训练方法在权利要求书中公布了：1.一种解耦式语音自监督预训练方法，其特征在于，包括以下步骤： 提取梅尔频率倒谱系数MFCC及其一阶和二阶差分特征； 使用提取的特征训练第一个K-Means模型，将聚类中心作为每帧语音的伪标签，用于后续的预训练过程；同时,预训练EMA-DINO模型，命名为说话人教师模型，用于提供说话人信息的指导； 输入语音数据后，首先经过卷积模块提取出帧级的特征，并行地，从输入语音数据中提取音高信息，并经过音高变化处理器加工得到音高变化表征； 基于残差解耦的思想，将音高变化表征剔除； 使用语音掩蔽预测的方式进行训练，确保深层Transformer表征中包含更多的内容信息; 在多层Transformer的中间层后面，设置额外的说话人处理器，并将增强后的说话人信息剔除,得到语音提取模型； 根据语音提取模型中间层表征来训练第二个K-Means模型生成新的伪标签目标，进行第二轮预训练； 通过任务特定的权重对模型的所有中间表征进行加权求和，得到适用于各种下游语音任务的特定表征； 所述基于残差解耦的思想，将音高变化表征从主分支中剔除，包括： 以残差的形式，用主分支卷积模块的输出减去音高变化表征； 对剔除音高变化信息后的表征执行一次层归一化； 所述在多层Transformer的中间层后面，设置额外的说话人处理器，并将增强后的说话人信息剔除，包括： 根据Transformer的第n层输出的表征，引入额外受监督于说话人教师模型的说话人处理器提取出说话人信息表征； 以残差的形式，用Transformer的输出减去说话人信息表征； 对剔除说话人信息后的表征执行一次层归一化； 剔除音高变化信息和说话人信息后，使用语音掩蔽预测的方式进行训练，包括： 在输入Transformer前，剔除音高变化信息的表征会被随机且连续地替换成掩蔽向量； 完成说话人信息剔除和Transformer处理后，在掩蔽帧位置计算预测表征与伪标签所对应的表征的相似度，以此完成模型主分支的训练。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人天津大学，其通讯地址为：300072 天津市南开区卫津路92号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。