华东师范大学陈铭松获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉华东师范大学申请的专利一种基于模型级对比学习的后门防御方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115329329B 。
龙图腾网通过国家知识产权局官网在2025-07-11发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210753091.0,技术领域涉及:G06F21/56;该发明授权一种基于模型级对比学习的后门防御方法是由陈铭松;岳志浩;夏珺;凌志威;胡铭设计研发完成,并于2022-06-29向国家知识产权局提交的专利申请。
本一种基于模型级对比学习的后门防御方法在说明书摘要公布了:本发明公开了一种基于模型级对比学习的后门防御方法,所述后门防御方法包括两个阶段,称为MCLDef。在第一阶段MCLDef基于触发器反演得到反演的触发器。通过这种方式,可以将得到的触发器用于生成中毒数据。基于本发明中提出的后门防御中的正负对,在第二阶段MCLDef对正负对进行模型级对比学习,其中将中毒数据的特征表示向其干净数据对应物拉近,同时缩小甚至破坏最初的中毒数据的特征表示对应的簇。通过这种方式,可以将被攻击模型后门进行抹除,同时大大降低对原始数据准确率的损失。
本发明授权一种基于模型级对比学习的后门防御方法在权利要求书中公布了:1.一种基于模型级对比学习的后门防御方法,其特征在于,利用原始数据与中毒数据的特征表示的分布特征进行防御,包括以下步骤: 步骤1,基于中毒模型的触发器反演: 采用优化触发器的方法进行触发器反演:对于原始数据x,利用下述公式得到中毒数据: 其中,Δ是触发器模式,m是一个二进制掩码,用于决定触发器的位置,⊙指张量的点乘;Δ与m的结合构成了用于攻击的触发器; 对于给定一部分干净的训练集数据其中|·|表示集合的数量,N表示集合元素个数,即N张干净数据;利用干净的训练集数据及触发器反演得到的触发器,通过式1得到中毒数据集 利用后门攻击检测方法得到后门攻击的目标标签yt,即其中1≤i≤N; 通过下式优化触发器模式Δ和掩码m: 其中,表示交叉熵损失函数;f·为神经网络的输出;表示中毒模型的参数;λ表示控制正则项优化目标权重的超参数;|·|表示一个向量的L1范数; 基于式2得到优化的触发器模式Δ*和掩码m*,从而利用干净数据生成对应的中毒数据; 步骤2,基于模型级对比学习方法的后门抹除: 对于给定一部分干净的训练集数据其中利用优化后的触发器模式Δ*和掩码m*,以及中毒数据集对于其中一个干净数据xi及其对应的中毒数据根据正负对得到正对负对所述正对为一个干净样本在中毒模型的特征表示和其对应的中毒样本在净化模型的特征表示;所述负对为将中毒样本在中毒模型和净化模型的特征表示; 利用模型级对比学习损失去抹除被攻击模型中的后门。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人华东师范大学,其通讯地址为:200241 上海市闵行区东川路500号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。