买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京工业大学申请的专利一种基于递进式知识传递的自蒸馏分类方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116994015B 。

龙图腾网通过国家知识产权局官网在2025-11-07发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210432979.4，技术领域涉及：G06V10/764；该发明授权一种基于递进式知识传递的自蒸馏分类方法是由杨新武;刘伟设计研发完成，并于2022-04-21向国家知识产权局提交的专利申请。

本一种基于递进式知识传递的自蒸馏分类方法在说明书摘要公布了：本发明公开了一种基于递进式知识传递的自蒸馏分类方法。提出一种自蒸馏分阶段学习方式，在学习过程中使浅层学生网络渐进式的向教师网络学习，从而提高学生网络的分类性能。首先，在教师网络训练完成后冻结其参数，再引入学生网络早期出口模块进行蒸馏操作；其次，在训练学生网络时，使其分阶段的向深层教师网络学习知识。

本发明授权一种基于递进式知识传递的自蒸馏分类方法在权利要求书中公布了：1.一种基于递进式知识传递的自蒸馏分类方法，其特征在于数据预处理、模型训练、预测三个过程，具体如下： 步骤S1，预处理训练数据集 步骤S1.1，使用翻转、裁减方式对训练数据进行增强 步骤S1.2，将数据随机打乱后分成不同批次，每个批次的数据样本量为128； 步骤S2，神经网络的训练 步骤S2.1，阶段1，设置神经网络学习率为0.1； 步骤S2.2，阶段1教师网络训练过程；将训练集数据送入神经网络中，到达教师分类出口时得到对于当前样本的预测结果；使用标签更新教师网络，标签损失定义为使用随机梯度下降法SGD更新网络的参数； 步骤S2.3，引入早期出口学生网络；构造自蒸馏结构；冻结教师网络参数； 步骤S2.4，阶段1学生网络反向传播过程；学生网络受到教师网络的监督损失，定义为与此同时，学生网络受到标签损失使用随机梯度下降法SGD更新网络的参数； 步骤S2.5，循环S2.1～S2.4，更新轮次为125； 步骤S2.6，阶段2设置神经网络学习率为0.01； 步骤S2.7，阶段2教师网络训练过程；将训练集数据送入神经网络中，到达教师分类出口时得到对于当前样本的预测结果；使用标签更新教师网络，标签损失定义为使用随机梯度下降法SGD更新网络的参数； 步骤S2.8，引入早期出口学生网络，网络参数来自阶段1；构造自蒸馏结构；冻结教师网络参数； 步骤S2.9，阶段2学生网络反向传播过程；学生网络受到教师网络的监督损失，定义为与此同时，学生网络受到标签损失使用随机梯度下降法SGD更新网络的参数； 步骤S2.10，循环S2.6～S2.9，更新轮次为125； 步骤S2.11，阶段3设置神经网络学习率为0.001； 步骤S2.12，阶段3教师网络训练过程；将训练集数据送入神经网络中，到达教师分类出口时得到对于当前样本的预测结果；使用标签更新教师网络，标签损失定义为使用随机梯度下降法SGD更新网络的参数； 步骤S2.13，引入早期出口学生网络，网络参数来自阶段2；构造自蒸馏结构；冻结教师网络参数； 步骤S2.14，阶段3学生网络反向传播过程；学生网络受到教师网络的监督损失，定义为与此同时，学生网络受到标签损失使用随机梯度下降法SGD更新网络的参数； 步骤S2.15，循环S2.11～S2.14，更新轮次为125； 步骤S2.16，阶段4设置神经网络学习率为0.0001； 步骤S2.17，阶段4教师网络训练过程；将训练集数据送入神经网络中，到达教师分类出口时得到对于当前样本的预测结果；使用标签更新教师网络，标签损失定义为使用随机梯度下降法SGD更新网络的参数； 步骤S2.18，引入早期出口学生网络，网络参数来自阶段3；构造自蒸馏结构；冻结教师网络参数； 步骤S2.19，阶段2学生网络反向传播过程；学生网络受到教师网络的监督损失，定义为与此同时，学生网络受到标签损失使用随机梯度下降法SGD更新网络的参数； 步骤S2.20，循环S2.16～S2.19，更新轮次为125； 步骤S3，预测过程 步骤S3.1，裁减神经网络，只保留浅分支预测出口； 步骤S3.2，把需要预测的图片输入到模型中，得到分类结果。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京工业大学，其通讯地址为：100124 北京市朝阳区平乐园100号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。