Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 山东大学陈竹敏获国家专利权

山东大学陈竹敏获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉山东大学申请的专利通过参数外推增强大模型遗忘的辅助方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119886361B

龙图腾网通过国家知识产权局官网在2025-07-01发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510360894.3,技术领域涉及:G06N5/04;该发明授权通过参数外推增强大模型遗忘的辅助方法及系统是由陈竹敏;王文宇;任鹏杰;张孟奇;任昭春设计研发完成,并于2025-03-26向国家知识产权局提交的专利申请。

通过参数外推增强大模型遗忘的辅助方法及系统在说明书摘要公布了:本发明属于人工智能领域中的大语言模型遗忘技术领域。提供了一种通过参数外推增强大模型遗忘的辅助方法及系统,通过梯度上升对目标遗忘数据集进行遗忘操作;在遗忘操作结束后,在遗忘操作的多个训练轮次中,选择遗忘效果与模型效用之间平衡最优的模型参数,计算遗忘过程中的参数更新向量;根据平衡最优的模型参数以及所述参数更新向量,通过参数外推放大参数更新向量,以将遗忘效果扩展到与目标遗忘数据集相关的知识上;本发明利用参数外推技术,放大了模型在遗忘目标数据时对相关知识的遗忘效果,从而实现更彻底的遗忘,无需额外的训练数据即可显著提升遗忘效果,并在遗忘质量和模型效用之间实现了更好的平衡。

本发明授权通过参数外推增强大模型遗忘的辅助方法及系统在权利要求书中公布了:1.一种通过参数外推增强大模型遗忘敏感信息的辅助方法,其特征在于,包括以下过程: 通过梯度上升对目标遗忘数据集进行遗忘操作; 在遗忘操作结束后,在遗忘操作的多个训练轮次中,选择遗忘效果与模型效用之间平衡最优的模型参数,计算遗忘过程中的参数更新向量; 根据平衡最优的模型参数以及所述参数更新向量,通过参数外推放大参数更新向量,以将遗忘效果扩展到与目标遗忘数据集相关的知识上; 构建一个包含目标遗忘数据集和相关知识数据集的合成数据集,数据集的具体构建方法如下: 目标遗忘数据集:包含需要遗忘的特定知识实例; 相关知识数据集:包含与目标遗忘数据逻辑相关的知识实例,这些知识实例通过模型的推理机制推断出目标遗忘数据; 数据集由若干个虚拟个体组成,每个个体包含若干个特定属性,每个属性生成两个问答对K1和K2,K1问答对直接描述目标遗忘数据,而K2问答对则包含相关知识,通过常识推理得出K1的内容; 实验采用LLaMA-2-7b-chat模型作为基础模型; 实验采用以下两个指标评估遗忘效果: 遗忘质量:通过计算模型在目标遗忘数据集上的ROUGE-L分数来衡量遗忘效果,较低的ROUGE-L分数表示更好的遗忘效果; 模型效用:通过计算模型在TruthfulQA数据集上的ROUGE-L分数来衡量模型的整体性能,较高的ROUGE-L分数表示更好的模型效用。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人山东大学,其通讯地址为:250000 山东省济南市历城区山大南路27号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。