买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉东北大学申请的专利一种面向工业深度学习模型的后门攻击检测方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119720192B 。

龙图腾网通过国家知识产权局官网在2025-11-18发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411624845.8，技术领域涉及：G06F21/56；该发明授权一种面向工业深度学习模型的后门攻击检测方法是由姚羽;冉子用;张俊;杨巍;杨鹤晨;李桉雨设计研发完成，并于2024-11-14向国家知识产权局提交的专利申请。

本一种面向工业深度学习模型的后门攻击检测方法在说明书摘要公布了：本发明属于工业机器学习安全技术领域，公开了一种面向工业深度学习模型的后门攻击检测方法。构建故障模型，并对多个分类生成后门攻击触发器，训练受损模型，模拟工业场景中深度学习被攻击的情景。在训练得到受损模型后，通过遍历寻求模型的每一个分类标签中可能存在的最优触发器，通过逆向计算得到与样本匹配的可替代触发器，通过中值计算判断模型是否被攻击。本发明在满足后门检测精度的同时，拟合工业数据分布密集的特点。本方法与现有NC方法比较，得到的触发器更加精确。

本发明授权一种面向工业深度学习模型的后门攻击检测方法在权利要求书中公布了：1.一种面向工业深度学习模型的后门攻击检测方法，其特征在于，包括步骤如下： 步骤一：根据工业样本分布特点要求从工业数据集中提取并预处理得到训练数据； 步骤二：根据得到的工业深度学习模型，随机选取训练数据中部分数据，添加同一种后门攻击的触发器，进行替代白盒受损工业模型训练； 步骤三：使用上述训练验证后的替代白盒受损工业模型迭代计算每个分类标签的最优触发器； 步骤四：针对步骤三生成的多个最优触发器，使用离群值计算方法MAD判断待检测模型是否存在后门攻击，并指出后门攻击对应的标签； 所述步骤二具体为： 步骤2.1、设置后门攻击比例参数α，设置训练数据数量为原始数据数量的1+α倍，统一对后门攻击生成的样本添加触发器，并与原训练集混合打乱； 步骤2.2、搭建替代白盒受损工业模型，通过对训练数据样本进行卷积，提取训练数据的局部特征，实现特征学习和空间层级表示，计算公式如下； 其中，f表示输入数据，g表示卷积核，m表示卷积核的宽度，n表示卷积核的高度，x,y是输出特征映射中某个像素点的坐标，i、j表示卷积层中的特征坐标； 步骤2.3、在步骤2.2的卷积操作之后，通过池化对局部特征降采样，减少数据维度并保留关键信息，计算公式如下： 其中，Z表示步骤2.2中提取得到的局部特征，k表示池化窗口大小，X表示经过池化后得到的输出特征映射； 步骤2.4、通过梯度下降算法最小化损失函数使得替代白盒受损工业模型收敛，反向传播计算过程如下： δl＝WlTδl+1⊙g′zl 其中，δL表示替代白盒受损工业模型反向传播过程中的广义误差，δl表示在替代白盒受损工业模型反向传播过程中第l层的误差，表示损失函数对输出结果的偏导数，⊙表示哈达玛积，表示逐元素相乘；g′表示激活函数的导数，zL表示计算得到的隐藏层权重矩阵，zl表示计算得到的第l层隐藏层权重矩阵，Wl表示第l层的权重，bl表示第l层偏置，J表示反向传播过程使用的损失函数； 所述步骤三具体步骤包括： 步骤3.1、从每个分类标签对应的训练集中，随机选取对应的样本组成作为最优触发器的计算验证样本集； 步骤3.2、对每个步骤3.1生成的验证样本集，建立目标函数： xatt＝x∪xtrig xtrig＝1-M⊙x+M⊙Δ 其中，x表示干净样本，‖·‖2表示L2范数，‖·‖1表示L1范数，利用LASSO回归建立损失函数，并使用优化算法迭代求解，M表示在触发器对样本进行修改时，对样本中特征改动的比例大小，Δ表示生成的触发器，h·表示替代白盒受损工业模型，ω1和ω2是控制正则化的超参数，xatt表示攻击训练的样本集合，xtrig表示带有触发器的样本，yt表示目标标签，L表示交叉熵函数： 其中，qi是真实标签的概率分布，pi是替代白盒受损工业模型的输出概率分布，交叉熵函数在替代白盒受损工业模型预测的概率分布与真实标签的概率分布之间寻找最小化的差异，使得替代白盒受损工业模型更好地拟合后门训练样本； 步骤3.3、对M和Δ进行随机初始化，传入步骤3.2中的目标函数中进行优化计算，得到每个标签对应的最优触发器。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人东北大学，其通讯地址为：110819 辽宁省沈阳市和平区文化路3号巷11号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。