南京邮电大学张载龙获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉南京邮电大学申请的专利一种面向FPGA部署的ResNet网络量化与仿真推理方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119862775B 。
龙图腾网通过国家知识产权局官网在2025-10-10发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411933593.7,技术领域涉及:G06F30/27;该发明授权一种面向FPGA部署的ResNet网络量化与仿真推理方法是由张载龙;张潘设计研发完成,并于2024-12-26向国家知识产权局提交的专利申请。
本一种面向FPGA部署的ResNet网络量化与仿真推理方法在说明书摘要公布了:本发明公开一种面向FPGA部署的ResNet网络量化与仿真推理方法,以有效缓解传统量化方法中因直接四舍五入引起的数值溢出和精度下降问题。本发明通过对ResNet模型的权重和激活值进行适配FPGA的量化转换,使模型在有限FPGA资源条件下保持较高精度。此外,本发明设计了一种无需硬件验证的仿真推理方法,可以在FPGA仿真环境中预先测试量化模型的性能与精度,减少了硬件调试和验证的复杂步骤,从而大幅提升开发效率并降低资源消耗。
本发明授权一种面向FPGA部署的ResNet网络量化与仿真推理方法在权利要求书中公布了:1.一种面向FPGA部署的ResNet网络量化与仿真推理方法,其特征在于,包括以下步骤: S1、加载ResNet模型,并调整模型结构,其中包含融合BN层的操作,以适配FPGA部署要求; S2、读取全精度图像,并进行预处理;利用调整后的模型对预处理后的图像进行前向推理,同时利用钩子函数捕获每层的输入与输出数据; S3、基于捕获的数据,逐层完成量化因子计算,作为模型量化因子的初始值;具体为: 基于每层卷积层的输入和输出数据,在整数范围[-20,20]内计算卷积层的权重、输入、偏置及输出的均方差,选择均方差最小的值作为量化因子初始值;并为满足硬件限制,对各参数的量化因子进行截断操作:对于输出和偏置,将因子截断在[-16,15]范围内;对于输入和权重,将其截断在[-8,7]范围内; 然后以当前卷积层的输出量化因子作为下一层的输入量化因子传递;结合模型的层结构参数,通过遍历模型字典中的module_name,加载每层的模型信息,并结合钩子函数获取的输入输出数据,逐层完成卷积层输入、输出、权重和偏置的量化因子计算; 最后通过梳理模型残差网络的父子节点关系,对整体输出量化因子进行调节,具体是将父节点和子节点的输出量化因子相加取平均值,并通过四舍五入确保结果为整数,从而得到优化后的输出量化因子,并以此调整输入量化因子; S4、进行反向检索,对卷积操作和激活函数的量化进行调整,用以优化各层的量化因子选择;具体为: 检索从ResNet模型的最后一层开始,逐层向前进行,对于每个检索的卷积层,通过遍历笛卡尔积生成的量化因子组合,对该层进行依次量化,其它层保持全精度推理;在遍历过程中,通过torch.mean_squared_error计算每个组合的均方误差,选取误差最小的组合作为该层的最优量化因子; 在当前层的最优量化因子确定后,继续向前一层检索,前一层的检索过程中将当前层固定为最优量化因子,再次遍历笛卡尔积组合,寻找前一层的最优量化因子; 重复以上步骤,逐层反向检索,最终获得整个模型的最优量化因子配置; S5、构建FPGA仿真环境,进行仿真FPGA推理,对量化因子进行优化选择;具体为: 使用PyTorch的register_forward_hook在每个卷积层注册前向钩子函数,以监控并获取每层模型的输入、输出和模块名称;然后,将模块名称倒序排列,根据模型字典中的module_name逐层倒序加载每个卷积层及其量化因子; 根据每层初始量化因子的值,确定其搜索范围为±5整数区间,在此范围内调用itertools.product生成各层量化因子的所有可能组合,确保量化因子的搜索聚焦于初始值附近; 对生成的量化因子组合进行硬件适配性筛选,过滤掉超出FPGA量化支持范围的组合; 针对每一个满足条件的量化组合,执行仿真推理;计算仿真结果与保存的全精度模型输出的均方差;比较所有组合的均方差结果,选择均方差最小的组合作为优化后的量化因子配置。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人南京邮电大学,其通讯地址为:210003 江苏省南京市鼓楼区新模范马路66号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励