齐鲁工业大学(山东省科学院);山东省计算中心(国家超级计算济南中心)高龙翔获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉齐鲁工业大学(山东省科学院);山东省计算中心(国家超级计算济南中心)申请的专利联邦阻尼类遗忘方法、装置、电子设备及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121638387B 。
龙图腾网通过国家知识产权局官网在2026-05-05发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202610162593.4,技术领域涉及:G06N3/098;该发明授权联邦阻尼类遗忘方法、装置、电子设备及存储介质是由高龙翔;朱迅翔;曲悠扬;顾树俊;葛树鑫;王常维;周万雷设计研发完成,并于2026-02-05向国家知识产权局提交的专利申请。
本联邦阻尼类遗忘方法、装置、电子设备及存储介质在说明书摘要公布了:本发明属于联邦学习的技术领域,具体涉及联邦阻尼类遗忘方法、装置、电子设备及存储介质。所述方法包括:获取预训练全局模型,所述预训练全局模型是基于联邦学习方法,利用客户端的本地数据集对初始全局模型进行训练得到;基于所选定的目标遗忘类别,分别构建遗忘类集合和保留类集合,并计算预训练全局模型的所有参数分别在遗忘类集合和保留类集合上的Fisher信息矩阵,用以筛选待削弱的模型参数并执行削弱;基于削弱后的模型参数更新预训练全局模型,并利用保留类集合中的图像样本对更新后的模型执行后训练,得到目标全局模型。本发明解决了当前联邦剪枝类遗忘学习对模型在保留类别上的性能损害过大和模型性能恢复过慢等问题。
本发明授权联邦阻尼类遗忘方法、装置、电子设备及存储介质在权利要求书中公布了:1.一种联邦阻尼类遗忘方法,应用于计算机视觉处理、语音处理、自然语言处理和大语言模型,其特征在于,所述方法包括: S1、获取预训练全局模型,所述预训练全局模型是基于联邦学习方法,利用客户端的本地数据集对给定的初始全局模型进行训练得到;所述本地数据集为基于给定的训练数据集分配得到,其包含有多个不同类别的图像样本,将每个客户端的本地数据集中属于同一类别的图像样本构建为客户端上的对应类别的数据子集; S2、从所述训练数据集中随机选定任一个或多个类别作为目标遗忘类别,剩余类别作为保留类别,并将所有客户端的本地数据集中属于所述目标遗忘类别的数据子集构建为遗忘类集合,将属于保留类别的数据子集构建为保留类集合,计算所述预训练全局模型的所有参数分别在所述遗忘类集合和保留类集合上的Fisher信息矩阵,用以筛选待削弱的模型参数并执行削弱,再基于削弱后的模型参数更新所述预训练全局模型; S3、利用所述本地数据集的保留类集合中的图像样本对更新后的所述预训练全局模型执行后训练,得到目标全局模型; 所述S2中,计算所述预训练全局模型的所有参数分别在所述遗忘类集合和保留类集合上的Fisher信息矩阵,具体包括: 计算所述预训练全局模型的所有参数分别在各客户端的本地数据集的所有数据子集上的Fisher信息矩阵,其包含属于所述目标遗忘类别的数据子集所对应的Fisher信息矩阵以及属于所述保留类别的数据子集所对应的Fisher信息矩阵; 将所有客户端中属于同一类别的数据子集所对应的Fisher信息矩阵进行聚合,得到所述预训练全局模型的所有参数对应各类别的全局Fisher信息矩阵,其包含属于所述目标遗忘类别所对应的全局Fisher信息矩阵以及属于所述保留类别所对应的全局Fisher信息矩阵; 将属于所述目标遗忘类别所对应的全局Fisher信息矩阵进行类间聚合,得到第一目标重要性矩阵; 将属于所述保留类别所对应的全局Fisher信息矩阵进行类间聚合,得到第二目标重要性矩阵; 所述S2还包括,基于所述第一目标重要性矩阵和第二目标重要性矩阵筛选待削弱的模型参数: 式6中:表示筛选出的待削弱的模型参数集合;表示目标遗忘类别对应的第一目标重要性矩阵的第个分量,表示保留类别对应的第二目标重要性矩阵的第个分量,分别衡量了预训练全局模型的参数对目标遗忘类别和保留类别的重要性;为设定的筛选参数; 和或,基于削弱系数对筛选出的待削弱的模型参数执行削弱: 式7、8中:表示预训练全局模型的参数对应的削弱系数;为用于控制削弱程度的超参数;为预训练全局模型的第个参数;为执行削弱操作后的预训练全局模型的参数。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人齐鲁工业大学(山东省科学院);山东省计算中心(国家超级计算济南中心),其通讯地址为:250000 山东省济南市长清区西部新城大学科技园;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励