买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉山东省计算中心(国家超级计算济南中心);齐鲁工业大学(山东省科学院)申请的专利基于知识蒸馏解决遗忘学习灾难性回忆的方法及装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120525005B 。

龙图腾网通过国家知识产权局官网在2025-10-28发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511029475.8，技术领域涉及：G06N3/0495；该发明授权基于知识蒸馏解决遗忘学习灾难性回忆的方法及装置是由曲悠扬;纪宗昊;高龙翔;顾树俊;崔磊;傅科学;王常维;张太豪设计研发完成，并于2025-07-25向国家知识产权局提交的专利申请。

本基于知识蒸馏解决遗忘学习灾难性回忆的方法及装置在说明书摘要公布了：本发明属于信息数据处理的技术领域，更具体地，涉及基于知识蒸馏解决遗忘学习灾难性回忆的方法及装置。所述方法包括选择初始模型并使用标准数据集训练，通过最小化交叉熵损失优化初始模型参数；选定目标遗忘类别，应用类遗忘方法调整模型参数，生成对目标遗忘类别识别能力低，对其他类别识别准确率高的遗忘模型；从原始数据集中选择剩余的类别数据作为增量学习数据并加入定量的目标遗忘类别数据作为输入数据，以生成的遗忘模型为教师模型，初始化学生模型，学生模型在输入数据上通过知识蒸馏损失约束输出分布，更新学生模型的参数。本发明解决了被遗忘模型在增量学习过程中无法保持遗忘性能，在吸收新信息时可能会出现灾难性遗忘的问题。

本发明授权基于知识蒸馏解决遗忘学习灾难性回忆的方法及装置在权利要求书中公布了：1.基于知识蒸馏解决遗忘学习灾难性回忆的方法，其特征在于，所述方法包括： S1、选择初始模型并使用标准数据集训练，通过最小化交叉熵损失优化初始模型参数； S2、选定目标遗忘类别，应用类遗忘方法调整模型参数，生成对目标遗忘类别识别能力低于对其他类别识别准确率的遗忘模型； S3、从原始数据集中选择除目标遗忘类别外的剩余的类别数据作为增量学习数据并加入定量的目标遗忘类别数据作为输入数据，以生成的遗忘模型为教师模型，初始化学生模型，学生模型在输入数据上通过知识蒸馏损失约束输出分布，更新学生模型的参数； 所述S1具体包括： S11、选择一个标准的图像数据集，作为训练数据； S12、选择一个卷积神经网络架构作为初始模型； S13、使用数据集的每个类别训练初始模型，使其对每个类别的识别能力增高，训练过程通过最小化交叉熵损失LCE来优化初始模型参数： 1； 公式1中，是输入数据，是输入数据对应的真实标签，是真实标签第个分量即类别的标签值，是类别总数，是初始模型对输入数据属于类别的预测概率； 所述S2具体包括： S21、从数据集中选择一个目标特定类别作为遗忘目标类别，后续对此类别进行遗忘操作； S22、同时应用遗忘两种方法进行遗忘：一为失忆性遗忘学习，二为KL散度遗忘方法； 失忆性遗忘学习方法：记录训练过程中每个小批量样本及其对应的参数更新，在接收到遗忘特定类别的请求时，回溯包括特定类别样本的批次的参数更新，从而移除遗忘目标类别的数据的学习痕迹； KL散度遗忘方法：选择另一个数据集，从此数据集中选择一个与遗忘目标类别的相似度大于设定阈值的样本类别，且样本类别与遗忘目标类别的数量相同，通过拟合即KL散度令样本类别对齐目标类别的输出分布，使模型对遗忘目标类别的识别能力进一步地下降。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人山东省计算中心(国家超级计算济南中心);齐鲁工业大学(山东省科学院)，其通讯地址为：250000 山东省济南市历下区经十路东首科学院路19号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。