买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉西南技术物理研究所申请的专利一种基于动态裁剪的模型推理加速方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116246082B 。

龙图腾网通过国家知识产权局官网在2025-12-23发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202211676368.0，技术领域涉及：G06V10/70；该发明授权一种基于动态裁剪的模型推理加速方法是由李艺强;吴钟建;金代中;陈陶;王升哲;罗镇宝;关炜;康朋新;郑杰;张毅;崔雨勇;赵径通设计研发完成，并于2022-12-26向国家知识产权局提交的专利申请。

本一种基于动态裁剪的模型推理加速方法在说明书摘要公布了：本发明提出一种基于动态裁剪的模型推理加速方法，该方法应用于模型推理阶段，首先训练优化好模型进行推理，然后输入数据计算模型当前层的通道注意力，之后根据注意力分布情况进行动态过滤，将作用小或不起作用的通道对应的下层卷积结果使用全0代替，屏蔽非必要的卷积运算，其余的通道正常进行卷积运算，最后每层的运算重复上一步骤完成整个模型的推理过程。推理过程中每层动态屏蔽部分卷积运算，使得整个模型推理速度得以提升。本发明提出的动态裁剪加速方法是根据输入数据不同，模型在推理过程中对于每个特征通道的侧重点不同，屏蔽低权重通道的卷积计算实现加速推理。

本发明授权一种基于动态裁剪的模型推理加速方法在权利要求书中公布了：1.一种基于动态裁剪的模型推理加速方法，其特征在于，所述模型推理加速方法包括如下步骤： S1.推理阶段输入数据，计算模型当前层的通道注意力 对于网络首层，进行正常的卷积激活运算，得到首层输出的多通道特征图；对于其余层的多通道特征输入，计算每个通道内数据的绝对值的平均值作为此通道的注意力值；对于每个通道遍历每个位置求取所有元素绝对值的平均值作为此特征通道的注意力值，所有多通道特征形成对应的注意力数组，计算如公式1所示： 其中，qi表示第i个特征图的注意力值，w、h表示特征图的宽、高，表示第i个特征图中k行j列的值； 对于存在注意力机制的模型，不需要计算，直接使用注意力值； S2.根据注意力屏蔽不重要通道对应的下层卷积运算 根据当前特征图的注意力进行动态筛选，依据公式2、3计算注意力数组的平均值与标准差，选取合适阈值；在下一层卷积运算中进行过滤，对于注意力大于阈值的通道正常运算不做改变,进行正常的卷积运算；对于注意力小于阈值的通道跳过其对应的卷积运算，使用全0作为结果： 其中，μ为模型同一层特征通道对应注意力数组的平均值，δ为模型同一层特征通道对应注意力数组的标准差； S3.每层依次进行步骤S1和S2，完成整个模型前向推理过程，得到模型结果。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人西南技术物理研究所，其通讯地址为：610041 四川省成都市武侯区人民南路四段七号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。