北京邮电大学尚煜茗获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉北京邮电大学申请的专利基于伪标签的意图识别模型训练方法、意图识别方法和装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120523955B 。
龙图腾网通过国家知识产权局官网在2026-03-31发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510509485.5,技术领域涉及:G06F16/355;该发明授权基于伪标签的意图识别模型训练方法、意图识别方法和装置是由尚煜茗;黄伊婷;张熙;郭三川设计研发完成,并于2025-04-22向国家知识产权局提交的专利申请。
本基于伪标签的意图识别模型训练方法、意图识别方法和装置在说明书摘要公布了:本发明提供一种基于伪标签的意图识别模型训练方法、意图识别方法和装置,方法包括:将样本文本输入到语言模型中提取特征向量;基于特征向量对样本文本聚类,将聚类结果作为伪标签,计算有标注样本文本的真实标签与伪标签的归一化互信息;确定每个样本对应的置信度分数;置信度分数用于量化伪标签中的噪声,筛选高置信度样本并将对应的伪标签作为自监督信号,迭代优化语言模型直到收敛;迭代后重新初始化聚类,更新聚类结果、归一化互信息和迭代次数;在迭代次数达到上限或归一化互信息增幅小于阈值时,终止训练并将语言模型确定为意图识别模型;能够解决噪声伪标签不断传播积累,导致模型识别新意图的能力下降的问题;提高模型识别新意图的能力。
本发明授权基于伪标签的意图识别模型训练方法、意图识别方法和装置在权利要求书中公布了:1.一种基于伪标签的意图识别模型训练方法,其特征在于,该方法包括以下步骤: 将样本文本输入到预训练的语言模型中提取得到特征向量;所述样本文本包括已知意图类别对应的有标注样本文本、所述已知意图类别对应的无标注样本文本和未知意图类别对应的无标注样本文本; 基于所述特征向量对所述样本文本执行聚类操作,将聚类结果作为伪标签,并计算所述有标注样本文本的真实标签与伪标签的归一化互信息; 确定所述样本文本中每个样本对应的置信度分数;所述置信度分数是对预设指标进行归一化加权聚合得到的,用于量化伪标签中的噪声程度;所述预设指标包括样本文本到所属聚类簇中心的距离、所述有标注样本文本的伪标签分布信息熵、预设数量轮的聚类操作中样本文本分配到相同聚类簇的频率、以及连续聚类操作中每个聚类簇的伪标签分布变化率; 将置信度分数大于动态置信度阈值的高置信度样本和对应的伪标签作为自监督信号,通过对比学习迭代优化所述语言模型直到收敛;所述动态置信度阈值的大小与迭代次数呈正相关;不同聚类簇对应的动态置信度阈值不同; 将每个聚类簇的质心作为新的聚类中心,重新聚类并更新所述聚类结果、所述归一化互信息和迭代次数; 在更新后的迭代次数达到预设上限或者归一化互信息增幅小于预设阈值的情况下,终止训练并将当前的语言模型确定为意图识别模型;否则,执行所述确定所述样本文本中每个样本对应的置信度分数的步骤; 所述动态置信度阈值是基于全局阈值和局部阈值生成的,在首轮迭代中,将所述全局阈值初始化为所述无标注样本文本的置信度分数的平均值,将所述局部阈值初始化为每个聚类簇中所有样本文本对应的置信度分数的平均值;在后续迭代中,通过指数移动平均对前一轮的全局阈值和前一轮的局部阈值进行平滑更新; 所述将置信度分数大于动态置信度阈值的高置信度样本和对应的伪标签作为自监督信号之前,还包括: 通过所述指数移动平均对前一轮的全局阈值和前一轮的局部阈值进行平滑更新; 对每个更新后的局部阈值进行归一化处理; 将归一化后的局部阈值与更新后的全局阈值相乘,得到每一个聚类簇在当前迭代轮次的动态置信度阈值。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京邮电大学,其通讯地址为:100876 北京市海淀区西土城路10号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励