中国科学院自动化研究所王方圆获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中国科学院自动化研究所申请的专利模型检查点参数域平均方法、装置、电子设备及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115081614B 。
龙图腾网通过国家知识产权局官网在2025-12-12发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210576193.X,技术领域涉及:G06N3/08;该发明授权模型检查点参数域平均方法、装置、电子设备及存储介质是由王方圆;徐波设计研发完成,并于2022-05-24向国家知识产权局提交的专利申请。
本模型检查点参数域平均方法、装置、电子设备及存储介质在说明书摘要公布了:本发明提供一种模型检查点参数域平均方法、装置、电子设备及存储介质,该方法涉及人工智能技术领域,包括:在对待训练深度神经网络模型训练过程中,保存多个检查点和所述多个检查点分别对应的多个模型参数;所述检查点用于表示在训练过程中不同阶段的模型;确定在各所述检查点分别对应的所述模型的损失函数的总损失值;基于所述总损失值,从所述多个检查点中确定待平均检查点;对所述待平均检查点对应的多个模型参数进行参数平均,得到所述模型的参数平均值。本发明提供的方法,结合了在训练集和验证集上模型的损失函数的总损失值,同时考虑了模型的偏差和方差,提升了模型的性能。
本发明授权模型检查点参数域平均方法、装置、电子设备及存储介质在权利要求书中公布了:1.一种模型检查点参数域平均方法,其特征在于,包括: 在对待训练深度神经网络模型训练过程中,保存多个检查点和所述多个检查点分别对应的多个模型参数;所述检查点用于表示在训练过程中不同阶段的模型;所述深度神经网络模型包括语音识别模型; 确定在各所述检查点分别对应的所述模型的损失函数的总损失值; 基于所述总损失值,从所述多个检查点中确定待平均检查点; 对所述待平均检查点对应的多个模型参数进行参数平均,得到所述模型的参数平均值; 所述确定在各所述检查点分别对应的所述模型的损失函数的总损失值,包括: 分别计算各所述检查点在训练集和验证集上损失函数的损失值; 基于各所述检查点在训练集和验证集上损失函数的损失值,确定各所述检查点分别对应的所述模型的损失函数的总损失值; 所述基于各所述检查点在训练集和验证集上损失函数的损失值,确定各所述检查点分别对应的所述模型的损失函数的总损失值,包括: 基于各所述检查点在验证集上损失函数的损失值,确定连续K个检查点对应的损失函数的损失值之和;所述K为正整数; 基于所述损失函数的损失值之和,确定所述损失函数的损失值之和最小的所述连续K个检查点; 基于所述连续K个检查点,确定各所述检查点分别对应的所述模型的损失函数的总损失值; 所述基于所述连续K个检查点,确定各所述检查点分别对应的所述模型的损失函数的总损失值,包括: 基于所述连续K个检查点中第一个检查点在验证集上损失函数的损失值和所述第一个检查点在训练集上损失函数的损失值,计算所述第一个检查点的贡献率; 根据各所述检查点的当前位置,计算各所述检查点的惩罚因子; 基于所述贡献率和所述惩罚因子,计算各所述检查点分别对应的所述模型的损失函数的总损失值。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国科学院自动化研究所,其通讯地址为:100190 北京市海淀区中关村东路95号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励