阿里巴巴集团控股有限公司赵晓辉获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉阿里巴巴集团控股有限公司申请的专利处理单元、相关装置和方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN113313242B 。
龙图腾网通过国家知识产权局官网在2025-09-12发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202010125529.1,技术领域涉及:G06N3/063;该发明授权处理单元、相关装置和方法是由赵晓辉;尹莉设计研发完成,并于2020-02-27向国家知识产权局提交的专利申请。
本处理单元、相关装置和方法在说明书摘要公布了:本公开提出一种处理单元、相关装置和方法。该处理单元包括:取指令单元,用于取回计算机指令;指令译码单元,用于对取回的计算机指令进行译码;指令执行单元,用于执行译码后的所述计算机指令,以实现:将特定格式的深度学习模型转换成通用中间表达;在所述通用中间表达中插入最大最小值收集节点;将插入了所述最大最小值收集节点的通用中间表达转换回所述特定格式进行校准,得到所述待量化输入的最大值、最小值;根据得到的待量化输入的最大值、最小值,在所述通用中间表达中插入量化和反量化节点;将插入了量化节点和反量化节点的通用中间表达转换回特定格式,得到量化后模型。本公开提高了加速单元的量化的通用性。
本发明授权处理单元、相关装置和方法在权利要求书中公布了:1.一种处理单元,用于确定适于计算装置中加速单元运行的模型,降低对数据吞吐量和存储空间的要求,其中,所述处理单元包括: 取指令单元,用于从所述处理单元外部的存储器取回计算机指令; 指令译码单元,用于对取回的计算机指令进行译码; 指令执行单元,用于执行译码后的所述计算机指令,以实现:将特定格式的深度学习模型转换成通用中间表达;在所述通用中间表达中插入最大最小值收集节点,用于收集待量化输入的最大值、最小值;将插入了所述最大最小值收集节点的通用中间表达转换回所述特定格式进行校准,得到所述待量化输入的最大值、最小值;根据得到的待量化输入的最大值、最小值,在所述通用中间表达中插入量化和反量化节点;将插入了量化节点和反量化节点的通用中间表达转换回特定格式,得到量化后模型,将量化后模型按照加速单元支持的指令集,转换成加速单元模型;其中,所述加速单元为加速深度学习模型的运算处理速度而设计的单元; 其中,处理单元通过指令的形式向加速单元发送加速单元模型的权重在存储器中的地址,以使得加速单元在运行加速单元模型进行推理时,按照所述地址直接从存储器中取出权重,通过加速单元的片上内核运行;所述处理单元还用于在推理时将输入数据从高精度数据类型转换为低精度数据类型,通过指令的形式向加速单元通知低精度数据类型的输入在存储器中的地址,便于加速单元利用基于所述输入数据进行推理; 其中,所述根据得到的待量化输入的最大值、最小值,在所述通用中间表达中插入量化和反量化节点,包括: 根据得到的待量化输入的最大值、最小值,确定量化因素; 根据所述量化因素,生成量化节点和反量化节点插入所述通用中间表达; 其中,所述量化节点被加入到量化版本的操作节点前,用于对操作节点的输入以及操作节点中的权重参数进行量化,所述反量化节点被加入到量化版本的操作节点后,用于对操作节点的输出进行反量化操作。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人阿里巴巴集团控股有限公司,其通讯地址为:英属开曼群岛大开曼资本大厦一座四层847号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。