天津大学张颖异获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉天津大学申请的专利基于深度学习模型转换的图像分类鲁棒性提升方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115410041B 。
龙图腾网通过国家知识产权局官网在2026-03-20发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211052809.X,技术领域涉及:G06V10/764;该发明授权基于深度学习模型转换的图像分类鲁棒性提升方法是由张颖异;王赞;姜佳君;尤翰墨;陈俊洁设计研发完成,并于2022-08-31向国家知识产权局提交的专利申请。
本基于深度学习模型转换的图像分类鲁棒性提升方法在说明书摘要公布了:本发明公开了一种基于深度学习模型转换的图像分类模型鲁棒性提升方法,步骤1、将原始的图像分类模型转换为从输入层至目标层的回归模型;使用动态模型切片方法NNSlicer对应标签类别的图像分类模型训练数据进行切片,从每个回归模型的切片中筛选出关键神经元,进行回归损失函数设计;步骤2:保存图像分类模型训练过程中的全部历史模型,使用历史图像分类模型执行数据增强处理;步骤3、进行模型同步:通过由步骤1得到的图像分类转换模型、关键神经元以及由步骤2得到的数据增强过程选择的数据及oracle进行模型微调,得到微调后的回归模型;将更新后的权重同步到原始图像分类模型中,得到最终调优后的图像分类模型。与现有技术相比,本发明能够提升图像分类模型的内在的通用鲁棒性。
本发明授权基于深度学习模型转换的图像分类鲁棒性提升方法在权利要求书中公布了:1.一种基于深度学习模型转换的图像分类鲁棒性提升方法,其特征在于,该方法包括以下步骤: 步骤1、进行模型转换:将一个已训练好的图像分类模型作为最终待提升模型,训练集按照标签类别划分,得到对应标签类别的训练数据,从图像分类模型中选择除输出层以外最后一层有参数的层作为目标层,将图像分类模型转换为从输入层至目标层的回归模型; 利用不同标签类别的训练数据分别对图像分类模型进行动态模型切片,从每个图像分类模型的切片中筛选出关键神经元,转换为回归模型;回归模型中的关键神经元为最终需要训练的神经元;以及,进行回归损失函数设计;包括: 使用动态模型切片方法NNSlicer对图像分类模型进行切片,包括分析、前向分析和后向分析三个阶段的处理,具体包括以下处理: ①在分析阶段,NNSlicer方法将整个训练集D输入图像分类模型,计算每个神经元n的平均激活值;具体过程为:将整个训练集D中的一个输入样本输入图像分类模型,观察到神经元n的输出值; 计算神经元n在整个训练集D上的平均激活值,表达式如下: ; 将平均激活值作为神经元n在训练集上的基线输出; ②在前向分析阶段,当给定一组感兴趣的输入样本,计算每个神经元n在整个训练集D上对特定输入样本的敏感性,表达式如下: ; 其中,为输入神经元n在整个训练集上的平均激活值, 为输入神经元n在整个训练集上的平均激活值, 每个输入神经元n在整个训练集D上的激活值差异作为输入神经元n的相对激活值; ③在后向分析阶段,当给定一个在数据集D上训练的图像分类模型M,以及感兴趣的输入样本、感兴趣的输出神经元N作为切片标准,切片标准中的神经元即为后续切片过程计算的起点,将神经元h和神经元n之间的连接记为突触s,其中,神经元h是与神经元n连接的后层神经元,设置连接权重为,递归地计算反映每个神经元和每个突触对输出神经元N重要性的累积贡献,计算神经元h的贡献,表达式如下: 其中,表示由神经元n和神经元h的相对激活值,表示神经元n的累积贡献; 对神经元h的累积贡献的更新计算公式为:,连接神经元h和n的突触s的累积贡献计算公式为: 根据累积贡献越大则突触越重要,将具有最大累积贡献的突触作为关键突触,关键突触连接的神经元作为关键神经元; 所述回归损失函数设计的表达式如下: 其中,表示对应的输入样本下的输入神经元n的黄金标准激活值,从训练历史中收集到,表示第k个目标层中c类的关键神经元; 步骤2、保存图像分类模型训练过程中的全部历史模型,使用历史图像分类模型执行数据增强处理:将输入样本σ输入历史模型得到一个预测结果,比较历史模型和最终待提升模型的预测结果,检查历史模型是否能比最终待提升模型更好的预测输入数据,如是,对应历史模型以最高的置信度产生期望的结果并记录该历史模型,输入样本σ提取目标层l中关键神经元的输出;记录该测试输入σ及其在目标层的神经元激活值,神经元激活值将作为期望输出oracle应用至转换模型的回归损失函数中; 步骤3、进行回归模型到图像分类模型的同步:通过由步骤1得到的图像分类转换模型、关键神经元以及由步骤2得到的数据增强过程选择的数据及期望输出oracle进行模型微调,即以数据增强选择的数据作为输入、收集的oracle作为标准输出对分类模型进行重训练;得到微调后的回归模型;将更新后的权重同步到图像分类模型中,得到最终调优后的图像分类模型;进一步包括: 分类模型M中的倒数第二层作为转换模型的输出层,将p的默认值设置为1;如果所采用的层没有可训练的参数,将采用它的前一个层,直到到达有一组可训练参数的层。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人天津大学,其通讯地址为:300072 天津市南开区卫津路92号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励