买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉复旦大学;上海新氦类脑智能科技有限公司申请的专利一种基于知识蒸馏的类别增量神经网络模型聚合方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116415653B 。

龙图腾网通过国家知识产权局官网在2026-04-28发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202111627025.0，技术领域涉及：G06N3/096；该发明授权一种基于知识蒸馏的类别增量神经网络模型聚合方法是由郑照宇;梁龙飞;薛向阳;李斌设计研发完成，并于2021-12-28向国家知识产权局提交的专利申请。

本一种基于知识蒸馏的类别增量神经网络模型聚合方法在说明书摘要公布了：本发明提供一种基于知识蒸馏的类别增量神经网络模型聚合方法，具体包括以下步骤：步骤S1，获取聚合所需的增量类别信息以及聚合所得模型的具体结构信息；步骤S2，根据增量类别信息以及结构信息选择多个异构模型作为待聚合模型，并构建初始聚合模型；步骤S3，采用无监督数据对待聚合模型以及初始聚合模型进行类别增量模型聚合，并基于聚合时的类别增量蒸馏损失以及特征过滤损失更新初始聚合模型直至生成增量模型；该方法支持异构待聚合模型间的聚合任务，同时只需单轮聚合就能使聚合模型收敛，大大降低模型聚合过程中的通信成本。

本发明授权一种基于知识蒸馏的类别增量神经网络模型聚合方法在权利要求书中公布了：1.一种基于知识蒸馏的类别增量神经网络模型聚合系统，其特征在于，包括： 端侧以及云侧聚合中心， 所述端侧为分布式的智能端侧设备，每个所述端侧被视为一个独立的数据域，具有相互独立的端侧私有数据以及根据所述私有数据训练得到的多个端侧模型，多个所述端侧模型所支持的类别各不相同， 所述端侧用于将聚合申请以及根据所述私有数据训练得到多个所述端侧模型传输至所述云侧聚合中心，并将所述云侧聚合中心发送的增量模型进行更新存储， 所述聚合申请包括需要增量的类别信息以及聚合所得模型的具体结构信息， 所述云侧聚合中心用于根据所述聚合申请在接收的多个所述端侧模型中选择待聚合模型并构建初始聚合模型，采用公开的无标注数据对所述待聚合模型以及所述初始聚合模型进行类别增量模型聚合，并基于聚合时的累加损失更新所述初始聚合模型直至生成增量模型，将聚合得到的所述增量模型发至端侧， 所述累加损失包括类别增量蒸馏损失以及特征过滤损失， 所述待聚合模型与所述初始聚合模型均由特征提取模块以及分类器组成，所述待聚合模型还具有特征过滤模块， 所述云侧聚合中心通过以下方式生成所述增量模型： 将无标注数据输入至所述待聚合模型和所述初始聚合模型中分别获取所述待聚合模型的预测输出-、所述初始聚合模型的输出以及中间层特征，其中，所述无标注数据为无标注的自然图像； 采用特征过滤模块对所述中间层特征进行过滤后分别输入至所述待聚合模型中，获取前向传播输出的所述中间层特征的logits：-； 分别计算所述预测输出-和-在重合类别上的交叉熵损失并累加，得到所述特征过滤损失； 分别计算所述待聚合模型以及所述初始聚合模型对无标注数据输出间的所述类别增量蒸馏损失； 基于所述特征过滤损失以及所述类别增量蒸馏损失计算累加损失，并采用反向传播不断更新所述初始聚合模型直至生成所述增量模型， 所述特征过滤损失的损失函数为： 式中，代表聚合后的增量模型，支持标签集合为，输出为；-代表参与聚合过程的待聚合模型，支持标签集合为输出为，代表初始聚合模型第个模块的输出的中间层特征输入到待聚合模型的下一层后得到的输出， 所述类别增量蒸馏损失的损失函数为： 式中，。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人复旦大学;上海新氦类脑智能科技有限公司，其通讯地址为：200433 上海市杨浦区邯郸路220号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。