四川大学汤臣薇获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉四川大学申请的专利一种用于图像分类卷积神经网络的低位宽自适应量化方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119312851B 。
龙图腾网通过国家知识产权局官网在2025-10-24发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411694906.8,技术领域涉及:G06N3/0495;该发明授权一种用于图像分类卷积神经网络的低位宽自适应量化方法是由汤臣薇;周文强;余镇冬;刘鑫宇;侯熙载;起航;吕建成;肖蓉设计研发完成,并于2024-11-25向国家知识产权局提交的专利申请。
本一种用于图像分类卷积神经网络的低位宽自适应量化方法在说明书摘要公布了:本发明公开了一种用于图像分类卷积神经网络的低位宽自适应量化方法,包括:构建图像数据集,并利用其对卷积神经网络训练,获得训练好的基础模型;在基础模型中插入伪量化节点,进而在前向传播过程中对权重和激活值进行量化,在反向传播过程中进行梯度近似,实现模型参数优化,获得完成量化的图像分类模型;利用搭载图像分类模型的硬件实现图像分类;其中,对激活值进行自适应量化,对权重进行非均匀量化。本发明通过ASQ方法动态调整激活量化器的缩放因子,最小化特定任务的损失;同时,通过简单的非均匀量化方法,能够实现更通用和稳定的量化性能。
本发明授权一种用于图像分类卷积神经网络的低位宽自适应量化方法在权利要求书中公布了:1.一种用于图像分类卷积神经网络的低位宽自适应量化方法,其特征在于,包括以下步骤: 构建图像数据集,并利用其对卷积神经网络训练,获得训练好的基础模型; 在基础模型中插入伪量化节点,进而在前向传播过程中对权重和激活值进行量化,在反向传播过程中进行梯度近似,实现模型参数优化,获得完成量化的图像分类模型; 利用搭载图像分类模型的硬件实现图像分类; 其中,对激活值进行自适应量化,对权重进行非均匀量化; 对激活值进行自适应量化的方法为: 在量化器中引入线性适配器生成动态参数,在量化过程中,根据动态参数与可训练参数相结合,学习激活值的量化步长参数,并根据变化的激活值分布动态调整其量化步长参数的大小,进而实现激活值的自适应量化; 所述线性适配器包括依次连接的平均池化层、第一全连接层、第一ReLU激活函数、第二全连接层和第二ReLU激活函数; 对激活值进行自适应量化的表达式为: 式中,表示动态参数,表示动态调整的量化步长参数,表示量化步长,表示裁剪阈值下限,表示裁剪阈值上线,表示裁剪算子,表示量化后的整形激活值,表示反量化后的激活值,表示自适应过程,表示量化过程,表示反量化过程,表示舍入操作; 对权重进行非均匀量化时的量化级别为: 式中,表示量化级别,表示裁剪阈值,表示量化的比特数; 对权重进行非均匀量化时,进行硬件计算的公式为: 式中,W和A分别表示权重和激活值,在硬件中被映射为具有特定宽度的定点数,表示偶数,表示奇数,表示查表法。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人四川大学,其通讯地址为:610044 四川省成都市一环路南一段24号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励