华东师范大学;上海奇绩智峰智能科技有限公司詹必豪获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉华东师范大学;上海奇绩智峰智能科技有限公司申请的专利基于词元级差分隐私和记忆塑造的隐私增强持续学习方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121030807B 。
龙图腾网通过国家知识产权局官网在2026-04-17发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511281010.1,技术领域涉及:G06F21/62;该发明授权基于词元级差分隐私和记忆塑造的隐私增强持续学习方法是由詹必豪;周杰;李俊松;杨宇涛;陈士炼;潘前俊;李鑫;陈琴;贺樑;颜航;窦亮;韩震华设计研发完成,并于2025-09-09向国家知识产权局提交的专利申请。
本基于词元级差分隐私和记忆塑造的隐私增强持续学习方法在说明书摘要公布了:本发明公开了一种基于词元级差分隐私和记忆塑造的隐私增强持续学习方法,其特点是该方法包括:词元级动态差分隐私模块和隐私引导记忆塑造模块,所述词元级动态差分隐私模块根据文本中不同词元的语义敏感度自适应分配隐私预算,并在嵌入层引入高斯噪声;所述隐私引导记忆塑造模块包括:记忆正则化和隐私感知遗忘:所述记忆正则化用于动态约束模型参数;所述隐私感知遗忘用于选择性削弱对高敏感信息的记忆。本发明与现有技术相比具有在保证隐私的同时维持更高的准确率和更低的遗忘率,实现了对敏感信息的遗忘与对通用知识的长期保持,有效缓解了持续学习中的灾难性遗忘,适用于推荐系统、医疗诊断和金融分析等隐私敏感应用场景。
本发明授权基于词元级差分隐私和记忆塑造的隐私增强持续学习方法在权利要求书中公布了:1.一种基于词元级差分隐私和记忆塑造的隐私增强持续学习方法,其特征在于,该方法采用词元级动态差分隐私模块和隐私引导的记忆塑造模块,实现细粒度的隐私保护,所述词元级动态差分隐私模块根据输入序列中各个词元的语义敏感度,为每个词元自适应地分配隐私预算并对词元嵌入进行扰动,以实现差分隐私保护;所述隐私引导的记忆塑造模块根据词元级动态差分隐私模块输出的敏感度信息,在大规模语言模型训练过程中通过记忆正则化损失和隐私感知反学习损失调整参数更新策略,以选择性遗忘敏感信息并巩固非敏感的通用知识; 所述隐私引导的记忆塑造模块包括:记忆正则化子模块和隐私感知遗忘子模块,所述记忆正则化子模块具体包括: 1对于每一个新到来的任务,由下式显示计算LoRA适配器的参数增量: ; 其中,为任务特有的学习更新; 2通过的Frobenius范数与任务输入激活向量的范数相乘,其由下式计算任务特定的重要性得分: ; 3利用下式所示的在线平均方法计算先前所学知识的累计重要性: ; 4由下式定义稳定性对齐的正则化损失,以稳定那些对保持历史知识至关重要的参数: ; 其中,为当前任务的LoRA参数;为动态正则化权重; 5根据任务的平均token敏感度分数动态调节正则化强度,其动态系数由下式定义为: ; 其中,和分别为最大和最小正则化强度水平; 所述任务的平均敏感度由该任务所有token的均值计算而得; 所述隐私感知遗忘子模块利用融合后的敏感度分数调整token级梯度贡献,其形式由下式定义为: ; 其中,为第个token的交叉熵损失;为预定义的敏感度阈值;为序列中token的数量;为指示函数。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人华东师范大学;上海奇绩智峰智能科技有限公司,其通讯地址为:200241 上海市闵行区东川路500号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励