国网浙江省电力有限公司营销服务中心沈然获国家专利权
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
龙图腾网获悉国网浙江省电力有限公司营销服务中心申请的专利一种基于选择性干预的语言模型知识蒸馏方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120181263B 。
龙图腾网通过国家知识产权局官网在2025-08-26发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510652687.5，技术领域涉及：G06N20/00；该发明授权一种基于选择性干预的语言模型知识蒸馏方法及系统是由沈然;张宏达;林少娃;朱林;袁婷;叶盛;侯素颖;王姝晏;吴伟玲设计研发完成，并于2025-05-21向国家知识产权局提交的专利申请。
本一种基于选择性干预的语言模型知识蒸馏方法及系统在说明书摘要公布了：本发明公开了一种基于选择性干预的语言模型知识蒸馏方法及系统。本发明采用的方法，包括：初始化教师模型与学生模型；输入文本提示，计算对应的指数衰减阈值；获取学生模型与教师模型的输出分布；计算学生模型的输出分布与教师模型的输出分布之间的散度；根据散度和指数衰减阈值确定标签序列；根据标签序列更新学生模型参数。本发明通过引入指数衰减阈值，随着生成序列的推进，动态调整教师模型在学生模型序列生成过程中的参与程度，以减少因学生生成的噪声导致的错误积累。相较于传统的学生生成输出方法，本发明能够显著提高学生模型长序列生成的性能，并有效降低教师模型与学生模型之间的预测偏差，提升语言模型在实际应用中的效果。
本发明授权一种基于选择性干预的语言模型知识蒸馏方法及系统在权利要求书中公布了：1.一种基于选择性干预的语言模型知识蒸馏方法，其特征在于，包括： 步骤1），初始化教师模型与学生模型； 步骤2），输入文本提示，计算对应的指数衰减阈值； 步骤3），获取学生模型与教师模型的输出分布； 步骤4），计算学生模型的输出分布与教师模型的输出分布之间的散度； 步骤5），根据散度和指数衰减阈值确定标签序列； 步骤6），根据标签序列更新学生模型参数。
如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人国网浙江省电力有限公司营销服务中心，其通讯地址为：311100 浙江省杭州市余杭区云联路138号5幢；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号