西安交通大学赵文哲获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉西安交通大学申请的专利一种用于神经网络推理加速的低功耗浮点乘累加运算方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115374904B 。
龙图腾网通过国家知识产权局官网在2025-09-02发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210924134.7,技术领域涉及:G06F17/16;该发明授权一种用于神经网络推理加速的低功耗浮点乘累加运算方法是由赵文哲;胡康;张景铭;付格林;夏天;任鹏举设计研发完成,并于2022-08-02向国家知识产权局提交的专利申请。
本一种用于神经网络推理加速的低功耗浮点乘累加运算方法在说明书摘要公布了:本公开揭示了一种用于神经网络推理加速的低功耗浮点乘累加运算方法,通过对输入的浮点数进行预处理,在计算前对小数部分进行舍入并调整其指数位,对可能会被舍入的数据进行预先的舍入和规整,省去对不必要精度的计算。同时,为了累加电路能够快速执行,采用科学技术法表示的指数的小数部分放弃原有的原码表示方法,转而采用补码表示方法。本公开利用乘累加运算的特点,使用消耗资源较少的定点运算资源实现接近浮点运算的精度,从而解决了神经网络推理过程中计算精度与硬件实现复杂度的平衡问题。
本发明授权一种用于神经网络推理加速的低功耗浮点乘累加运算方法在权利要求书中公布了:1.一种用于神经网络推理加速的低功耗浮点乘累加运算方法,其特征在于: 通过对输入的浮点数进行预处理,在计算前对小数部分进行舍入并调整其指数位,对可能会被舍入的数据进行预先的舍入和规整,省去对不必要精度的计算;同时,为了累加电路能够快速执行,采用科学计数法表示的指数的小数部分放弃原有的原码表示方法,转而采用补码表示方法; 其中,所述方法的方案1具体为: 对于组数据的指数位序列,取其中的最大值,为组数据的统一指数位,近似后的组数据用表示,中的每个数据为: , 其中是根据统一的指数位,将向右移位得到的,针对每个,需要右移的位数为,而; 在较为极端的情况下,当时,会因为移位变为0; 对于每个,都有位的数据被直接舍弃; 同理,对数组也做相同处理,近似后的数组为,中的每个数据为: , 其中,是根据将向右移位得到的,其中,; 在转换后,和均为8bit整型数据,可以送入MAC阵列进行计算; 设定点乘法部分得到的结果为: ,对于公式中的i=0,1,2,…,7的8项求和,由于是定点加法,故使用华莱士树加法器和一个定点加法器得到; 最后,将小数部分的计算和指数部分的运算处理结合: 设定点乘法输出序列为数组,则数组中每个数为: , 由于得到的数组的指数统一,故可以直接使用定点加法器进行加和,设得到的结果为,于是有: ; 所述方法仅在一组乘加操作的最后才进行归一化运算,乘法部分和加法部分都可以节省很多资源; 所述方法对数据进行了预处理,在两个需要乘积的数组进入乘法阵列前,就确定了各自组的指数。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西安交通大学,其通讯地址为:710049 陕西省西安市咸宁西路28号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。