河海大学;南京晓庄学院吉顺慧获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉河海大学;南京晓庄学院申请的专利基于稀疏扰动群的对抗样本生成方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116503692B 。
龙图腾网通过国家知识产权局官网在2025-12-23发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310558120.2,技术领域涉及:G06V10/774;该发明授权基于稀疏扰动群的对抗样本生成方法及系统是由吉顺慧;李云鹤;胡黎明;张鹏程;李雯睿设计研发完成,并于2023-05-17向国家知识产权局提交的专利申请。
本基于稀疏扰动群的对抗样本生成方法及系统在说明书摘要公布了:本发明提出了一种基于稀疏扰动群的对抗样本生成方法及系统。本发明首先根据图像的相似特征将图像划分成若干超像素;并搭建改进的AdvGAN框架,使用密集扰动方法生成的对抗样本数据集训练GAN模型,用于生成扰动重要性矩阵;然后对预处理后的图像基于损失函数计算每一个超像素的平均梯度,选择最佳扰动位置,迭代地添加扰动群直到攻击成功。为了跳出局部最优,提出基于GAN的扰动优化策略,使用GAN计算对抗样本中每一个超像素的平均扰动重要性,基于平均扰动重要性去除冗余扰动群以及重要性较小的扰动群,并重新对图像添加扰动群直到攻击成功;最后,基于扰动重要性矩阵去除扰动群内的冗余扰动和幅度。本发明能够快速计算扰动重要性,提高扰动结构性。
本发明授权基于稀疏扰动群的对抗样本生成方法及系统在权利要求书中公布了:1.一种基于稀疏扰动群的对抗样本生成方法,其特征在于,包括如下步骤: 步骤1:使用聚类算法对输入图像进行超像素分割,将图像分割为若干超像素,一个超像素包含一个类簇内的所有像素点; 步骤2:基于改进的AdvGAN框架训练用于扰动重要性计算的GAN,GAN生成器的输入是基于密集扰动的对抗样本生成方法构造的对抗样本,输出是扰动重要性矩阵,将扰动重要性矩阵和输入的对抗样本叠加后分别输入判别器和目标DNN中计算损失函数;其中在目标DNN损失函数中考虑扰动重要性矩阵的范数;训练完成后的GAN能够针对输入的对抗样本生成扰动重要性矩阵; 步骤3:基于分割的超像素迭代地进行扰动添加,每一次迭代新增一个超像素添加扰动群,直到被扰动的图像能够成功攻击目标DNN为止,得到初始扰动方案;第t+1次迭代中,基于超像素分割进行添加扰动的方法如下: 步骤31:针对图像中前t次迭代下添加的扰动群,在扰动阈值的限制下,基于本次迭代计算出的梯度值继续添加扰动;其中,计算损失函数关于输入图像的梯度值时采用的损失函数公式如下: ; 其中x、y分别为图像以及其相应的真实标签,、为目标DNN针对图像x关于标签y、i的预测概率,h为置信度参数,默认为0; 步骤32:按照损失函数下降最大的搜索策略确定本次迭代新增的扰动群,在图像剩余的未被扰动的超像素中,计算梯度在每一个超像素区域内的平均梯度值,即对于超像素中的每一个像素点求梯度,然后求出这些像素点梯度的均值作为超像素的平均梯度值,使用步骤31中的损失函数来计算梯度g; 步骤33:根据平均梯度由大到小的顺序,对扰动群进行排序,选取平均梯度值最大的前个超像素作为候选扰动群集,分别对其中一个超像素添加扰动群,若在处添加的扰动群能够使得损失函数最小,则选取处添加的扰动群作为第t+1次迭代新添加的扰动群,所述的扰动群是指添加扰动后的超像素,由于添加扰动后的超像素中包含一群扰动点,故称之为扰动群,对第i个扰动群添加扰动的具体公式,其中,是设定的固定值参数,用于控制添加扰动的幅度,g为损失函数关于输入图像的梯度矩阵,为记录第i个扰动群的位置矩阵,表示两个矩阵对应位置元素值的逻辑乘; 步骤34:判断当前迭代生成的图像能否成功攻击目标DNN,如果能够成功攻击目标DNN,则跳转至步骤4,否则,迭代次数加1,并跳转至步骤31继续对图像添加扰动; 步骤4:将步骤3得到的对抗样本输入到训练好的GAN计算扰动重要性矩阵,并计算对抗样本中每一个超像素的平均扰动重要性,基于平均扰动重要性去除冗余扰动群以及重要性较小的设定数量或比例的扰动群,并重新对图像添加扰动群,直到攻击成功;重复步骤3和步骤4直到满足终止条件,选择扰动超像素个数最少的一种扰动方案作为最优扰动群扰动方案; 步骤5:将步骤4得到的最优扰动群对应的对抗样本输入训练好的GAN生成扰动重要性矩阵,并基于扰动重要性矩阵,减少每一个扰动群内的冗余扰动和冗余扰动幅度。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人河海大学;南京晓庄学院,其通讯地址为:210098 江苏省南京市鼓楼区西康路1号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励