浙江大学于云龙获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉浙江大学申请的专利基于有容忍度标签的自蒸馏方法、计算机设备和存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116403069B 。
龙图腾网通过国家知识产权局官网在2025-10-28发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310267305.8,技术领域涉及:G06V10/774;该发明授权基于有容忍度标签的自蒸馏方法、计算机设备和存储介质是由于云龙设计研发完成,并于2023-03-20向国家知识产权局提交的专利申请。
本基于有容忍度标签的自蒸馏方法、计算机设备和存储介质在说明书摘要公布了:本发明公开了一种基于有容忍度标签的自蒸馏方法、计算机设备和存储介质,所述方法具体包括如下步骤:获取用于训练深度神经网络模型的图像数据集;利用图像数据集训练预先定义好的深度神经网络,优化目标是交叉熵优化损失和自蒸馏损失,自蒸馏损失需要的软标签通过一个自适应的内存结构来提供;利用训练好的模型输出图像分类任务的预测结果。本发明的方法适用于有监督的图像识别或者检测等任务,面对优化过程中存在的过拟合现象,在不需要预先训练一个大的教师模型的前提下进行自蒸馏,模型能够在更优点收敛,得到更为稳健的效果。
本发明授权基于有容忍度标签的自蒸馏方法、计算机设备和存储介质在权利要求书中公布了:1.一种基于有容忍度标签的自蒸馏方法,其特征在于,包括以下步骤: S1、获取用于训练深度神经网络模型的图像数据集,所述的图像数据集为,其中为数据集中的图像总数,和分别表示第张图像及其对应的类标签,,表示类别总数,每一类都包含多张图像; S2、利用所述图像数据集训练预先定义好的深度神经网络模型,优化目标是交叉熵优化损失和自蒸馏损失,所述自蒸馏损失需要的软标签通过一个自适应的内存结构来提供,具体包括: S21、预先定义一个类别和训练预测结果相关的内存结构,,大小都为,K为预先设定的内存大小; S22、在训练深度神经网络时采用批量处理的方式,首先从图像数据集中随机采样一个批量的图像样本,其中批量大小预先给定; S23、将中的图像输入深度神经网络得到对应的预测输出,是模型的输出预测向量结果,大小为,获得输出预测结果之后,根据的操作从内存结构中和获得; S24、根据操作将中的图像预测结果自适应选择来更新内存结果,; S25、使用自适应软标签构成自蒸馏学习损失函数,同时使用一个批量中的所有预测构成交叉熵优化损失函数; S26、基于所述交叉熵优化损失和自蒸馏损失得到总的损失函数为 其中是预先设置的权重参数,用来平衡两种损失函数的贡献; S27、根据得到的总的损失函数,使用Adam优化器或带动量的随机梯度下降优化器,以及反向传播算法训练深度神经网络模型; S28、重复步骤S22至S27直至模型收敛; S3、利用训练好的深度神经网络模型输出给定图像分类的预测结果。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人浙江大学,其通讯地址为:310058 浙江省杭州市西湖区余杭塘路866号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励