上海交通大学倪冰冰获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉上海交通大学申请的专利基于多子空间联合的人工智能识别模型对抗防御方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119399492B 。
龙图腾网通过国家知识产权局官网在2025-11-04发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411392648.8,技术领域涉及:G06V10/52;该发明授权基于多子空间联合的人工智能识别模型对抗防御方法是由倪冰冰;赵成龙;胡逢法设计研发完成,并于2024-10-08向国家知识产权局提交的专利申请。
本基于多子空间联合的人工智能识别模型对抗防御方法在说明书摘要公布了:一种基于多子空间联合的人工智能识别模型对抗防御方法,通过输入样本在模型的各节点、各层的激活值向量映射到不同子空间一致性表现,即特征嵌入子空间的一致性判别是否为对抗样本;对甄别后的非攻击样本进行多尺度变化,并比较其各个尺度在模型传输的各个节点值的分布一致性表现,即尺度空间的一致性判别是否为对抗样本;对进一步甄别后的非攻击样本的原始像素或神经网络某层输出值进行子空间谱分解,并比较其在各谱分量的响应系数统计上应具备一致性,即谱空间一致性判别是否为对抗样本,实现全谱系防御。本发明基于多不相干空间分析,使得信息互补,极大提升针对攻击样本的防御能力,实现全谱系防御。
本发明授权基于多子空间联合的人工智能识别模型对抗防御方法在权利要求书中公布了:1.一种基于多子空间联合的人工智能识别模型对抗防御方法,其特征在于,包括: 步骤1、通过输入样本在模型的各节点、各层的激活值向量映射到不同子空间一致性表现,即特征嵌入子空间的一致性判别是否为对抗样本; 步骤2、对甄别后的非攻击样本进行多尺度变化,并比较其各个尺度在模型传输的各个节点值的分布一致性表现,即尺度空间的一致性判别是否为对抗样本; 步骤3、对进一步甄别后的非攻击样本的原始像素或神经网络某层输出值进行子空间谱分解,并比较其在各谱分量的响应系数统计上是否具备一致性,即谱空间一致性判别是否为对抗样本,实现全谱系防御; 所述的特征嵌入子空间的一致性判别,具体包括: 1.1:提取输入样本图像的嵌入特征,具体为:为特征提取函数,为参数,为输入样本图像,z为嵌入式特征; 1.2:对嵌入式特征z进行特征分解得到:为特征基,,…,为对应特征基的系数; 1.3:将提取的各个子空间特征进行一致判别,具体为:对步骤1.1得到的嵌入式特征z的嵌入表征进行特征分解获得特征系数,并判断当特征基的系数βi服从正态分布,通过样本训练集χ,对每一组,进行估计,获得到真实样本集在的特征系数的分布空间,其中:为分布的均值和方差,为估计得到的分布的均值和方差; 1.4:对于任一输入样本x,基于判定准则,,当判定准则为真,其为特征维度上体现出较大基因序列不一致性,即样本被甄别为攻击样本,其中:为特征维度置信水平; 所述的尺度空间的一致性判别,具体包括: 2.1:对步骤1一致性判别后得到的非攻击样本进行尺度变化,形成不同尺度图像; 2.2:将步骤2.1得到的不同尺度图像输入卷积神经网络,设置卷积神经网络的激活断点并划分成个区间:,得到每个输入样本图像在整个激活域的激活值分布:,其中:为激活值分布; 2.3:采用KL散度衡量步骤2.2得到的激活值分布的差异,具体为:,其中:,为不同尺度输入图像的激活值分布; 2.4:基于判定准则:,当判定准则为真,其为两个尺度下的激活值分布发生较大的差异,即样本被甄别为攻击样本,其中:为激活值分布差异的阈值; 所述的谱空间一致性判别,具体包括: 3.1:对步骤2一致性判别后的非攻击样本进行频域变换,得到频域特征; 3.2:对频域特征在频域空间上进行子空间分解:,其中:是一组正交基,是其相应的系数,为频域分量,为对应频域分量的系数; 3.3:当子空间分解的系数服从正态分布,则利用训练集,对每一组,进行估计,得到真实样本集在嵌入特征空间中的序列; 3.4:基于判定准则,当样本的判定准则为真,其为在频域空间中,由于某一特征维度的系数的分布跳出置信区间,即在该频域特征维度上体现出较大不一致性,即样本被甄别为攻击样本,其中:为该特征维度置信水平,最终剩余的样本为干净样本。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人上海交通大学,其通讯地址为:200240 上海市闵行区东川路800号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励