买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京有竹居网络技术有限公司申请的专利模型量化方法、装置、介质以及电子设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN117875379B 。

龙图腾网通过国家知识产权局官网在2026-03-20发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202410146566.9，技术领域涉及：G06N3/0495；该发明授权模型量化方法、装置、介质以及电子设备是由郭若愚设计研发完成，并于2024-02-01向国家知识产权局提交的专利申请。

本模型量化方法、装置、介质以及电子设备在说明书摘要公布了：本公开涉及一种模型量化方法、装置、介质以及电子设备，涉及计算机技术领域，该方法通过确定待量化模型中的各个网络节点对应的量化敏感度，根据量化敏感度，对各网络节点进行排序，获得节点序列，然后根据各网络节点的参数量，将节点序列划分为多个子序列，并确定各子序列中包括的网络节点对应的目标量化位宽，接着，根据各网络节点对应的目标量化位宽，对待量化模型进行量化，获得量化模型，可以使用精度损失更低的高比特对较难量化的网络节点进行量化，使用低比特来对较容易量化的网络节点进行量化，从而在提高量化模型的推理速度的同时，保证量化模型的精度损失尽可能地低。

本发明授权模型量化方法、装置、介质以及电子设备在权利要求书中公布了：1.一种模型量化方法，其特征在于，包括： 确定待量化模型中的各个网络节点对应的量化敏感度； 根据所述量化敏感度，对各所述网络节点进行排序，获得节点序列； 根据各所述网络节点的参数量，将所述节点序列划分为多个子序列； 确定各所述子序列中包括的所述网络节点对应的目标量化位宽； 根据各所述网络节点对应的目标量化位宽，对所述待量化模型进行量化，获得量化模型， 其中，所述待量化模型是图像类型的模型、文本类型的模型和音频类型的模型中的一种， 其中，所述根据各所述网络节点的参数量，将所述节点序列划分为多个子序列，包括： 针对所述节点序列中的每一所述网络节点，根据所述网络节点的参数量与所述待量化模型的总参数量之间的比值，确定该网络节点对应的第一参数量占比； 确定至少一个用于对所述节点序列进行截取的第二参数量占比； 根据至少一个所述第二参数量占比，依顺序对所述节点序列进行截取，获得多个所述子序列，其中，在各所述子序列中，该子序列中包括的所述网络节点的第一参数量占比之和等于该子序列对应的所述第二参数量占比，以及 其中，所述确定各所述子序列中包括的所述网络节点对应的目标量化位宽，包括： 根据各所述子序列对应的量化敏感度，确定各所述子序列对应的量化位宽，并将所述子序列对应的量化位宽确定为该子序列包括的所有网络节点对应的目标量化位宽，其中，在多个所述子序列中，所述量化敏感度较大的子序列对应的量化位宽大于所述量化敏感度较小的子序列对应的量化位宽。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京有竹居网络技术有限公司，其通讯地址为：101299 北京市平谷区林荫北街13号信息大厦802室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。