浙江工业大学陈晋音获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉浙江工业大学申请的专利一种基于异常偏差类神经元的深度学习模型安全加固方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115203690B 。
龙图腾网通过国家知识产权局官网在2025-07-18发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210932483.3,技术领域涉及:G06N3/094;该发明授权一种基于异常偏差类神经元的深度学习模型安全加固方法是由陈晋音;李潇;张任杰;金海波设计研发完成,并于2022-08-04向国家知识产权局提交的专利申请。
本一种基于异常偏差类神经元的深度学习模型安全加固方法在说明书摘要公布了:本发明公开一种基于异常偏差类神经元的深度学习模型安全加固方法,该方法首先采用中毒数据集训练中毒模型,然后将少量的干净数据输入到中毒模型中,记录激活值大于等于所述平均值的神经元,作为神经元群;再将大量的干净数据输入到中毒模型中,计算神经元群中的神经元的激活值,并将这些神经元对所有输入的干净数据的激活值累加并按大小排序,选取排序靠前的神经元,即为异常偏差类神经元;然后构建损失函数,通过反向传播,将干净数据优化为异常数据,最后用异常数据和干净数据组成的数据集训练中毒模型,完成对模型的加固。本发明能够有效地防御中毒攻击,并且不影响模型正常样本的正确率,大幅提高模型的鲁棒性,使模型更加难以被攻击成功。
本发明授权一种基于异常偏差类神经元的深度学习模型安全加固方法在权利要求书中公布了:1.一种基于异常偏差类神经元的深度学习模型安全加固方法,其特征在于,该方法包括: 步骤一:准备干净数据集; 步骤二:选取深度学习网络,使用中毒攻击方法生成中毒数据,将中毒数据添加到干净数据集中,形成中毒数据集;采用中毒数据集训练深度学习网络,得到中毒模型; 步骤三:将少量的干净数据输入到中毒模型中,计算中毒模型中全连接层的神经元的激活值的平均值,并记录激活值大于等于所述平均值的神经元,作为神经元群;将大量的干净数据输入到中毒模型中,计算神经元群中的神经元的激活值,并将这些神经元对所有输入的干净数据的激活值累加,并将累加后的激活值按照从大到小排序,选取排序靠前的神经元,即为异常偏差类神经元; 步骤四:构建损失函数,将干净数据输入中毒模型中,并记录中毒模型中全连接层的异常偏差类神经元的激活值,并以此计算损失函数值;使用损失函数的梯度信息,对输入的干净数据的像素值进行改变,将其迭代优化为异常数据; 步骤五:采用步骤四得到的异常数据,以及原始的干净数据一起组成数据集,训练中毒模型,模型将其中的异常偏差类神经元纠正为正常工作的神经元,防御中毒攻击,从而对完成对模型的加固。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人浙江工业大学,其通讯地址为:310014 浙江省杭州市下城区潮王路18号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。