买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉苏州元脑智能科技有限公司申请的专利模型的量化方法、装置、电子设备、存储介质及程序产品获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120317308B 。

龙图腾网通过国家知识产权局官网在2025-09-23发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510799724.5，技术领域涉及：G06N3/082；该发明授权模型的量化方法、装置、电子设备、存储介质及程序产品是由董建宁;王相宇;李宇涵;李纪元设计研发完成，并于2025-06-16向国家知识产权局提交的专利申请。

本模型的量化方法、装置、电子设备、存储介质及程序产品在说明书摘要公布了：本申请公开了一种模型的量化方法、装置、电子设备、存储介质及程序产品，涉及计算机技术领域，包括确定待量化的第一神经网络模型。将第一神经网络模型的多个目标层的神经网络的权重参数由第一预设位数的浮点数转换为第二预设位数的整数，得到第二神经网络模型。在第二神经网络模型接收到待推理的数据的情况下，将多个目标层的神经网络的输入激活值由第一预设位数的浮点数转换为第二预设位数的整数。通过对目标层的神经网络的权重参数和输入激活值进行同等精度的等位量化处理，解决了因权重参数和输入激活值的量化精度不一致而带来的无法收敛的问题或出现乱码的技术问题，达到了降低第二神经网络模型的输出结果的错误率的技术效果。

本发明授权模型的量化方法、装置、电子设备、存储介质及程序产品在权利要求书中公布了：1.一种模型的量化方法，其特征在于，所述方法包括： 确定待量化的第一神经网络模型，其中，所述第一神经网络模型包括多层神经网络，所述多层神经网络中的每层所述神经网络的权重参数以及每层所述神经网络的输出激活值均采用第一预设位数的浮点数表示； 将所述第一神经网络模型的多个目标层的神经网络的权重参数由所述第一预设位数的浮点数转换为第二预设位数的整数，得到第二神经网络模型，其中，所述第二预设位数小于所述第一预设位数； 在所述第二神经网络模型接收到待推理的数据的情况下，将所述多个目标层的神经网络的输入激活值由所述第一预设位数的浮点数转换为所述第二预设位数的整数； 其中，各所述目标层的神经网络用于根据权重参数和输入激活值，输出对应的输出激活值； 其中，所述第二神经网络模型的权重参数为整数且所述第二神经网络模型的权重参数的第二预设位数小于所述第一神经网络模型的权重参数的第一预设位数，以使所述第二神经网络在推理过程中对于计算资源的消耗少于所述第一神经网络模型在推理过程中对于计算资源的消耗，所述第二神经网络模型部署在嵌入式设备或移动设备上； 所述第二神经网络模型包括输出过滤层，所述方法还包括：通过所述输出过滤层接收所述第二神经网络模型的解码层输出的字节；通过所述输出过滤层在所述字节满足预设格式的情况下，输出所述字节对应的文字结果；所述文字结果为自然语言文本；通过所述输出过滤层在所述字节未满足所述预设格式的情况下，将所述字节缓存至缓存区；通过所述输出过滤层在将上一字节缓存至缓存区之后，若接收到新的字节，则将所述新的字节缓存至所述缓存区；在所述缓存区缓存的字节的数量达到预设数量的情况下，将所述缓存区缓存的多个字节合并之后再进行解码，得到对应的文字结果。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人苏州元脑智能科技有限公司，其通讯地址为：215000 江苏省苏州市吴中经济开发区综保区经一路1号8幢；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。