买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京邮电大学申请的专利基于混合量化的大模型精调方法及相关设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119740640B 。

龙图腾网通过国家知识产权局官网在2025-10-21发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411739761.9，技术领域涉及：G06N3/0985；该发明授权基于混合量化的大模型精调方法及相关设备是由王玉龙;左畅;苏森设计研发完成，并于2024-11-29向国家知识产权局提交的专利申请。

本基于混合量化的大模型精调方法及相关设备在说明书摘要公布了：本申请提供一种基于混合量化的大模型精调方法及相关设备，包括：步骤确定待训练模型的若干参数矩阵、用于对待训练模型进行训练的若干量化方法和限制条件；根据所述限制条件和若干所述量化方法，对任一所述参数矩阵进行迭代量化，确定任一所述参数矩阵的量化损失值集和显存占用数值集；根据所述量化损失值集和所述显存占用数值集，通过优化方法确定任一所述参数矩阵的最优量化算法；根据若干所述最优量化算法，对所述待训练模型中的若干参数矩阵进行迭代混合量化，确定大模型；通过精调算法对所述大模型的低秩组件的参数进行调整，完成模型精调。

本发明授权基于混合量化的大模型精调方法及相关设备在权利要求书中公布了：1.一种基于混合量化的大模型精调方法，其特征在于，包括： 确定待训练模型的若干参数矩阵、用于对待训练模型进行训练的若干量化方法和限制条件；其中，所述限制条件包括：预设量化损失值和预设显存数值； 根据所述限制条件和若干所述量化方法，对任一所述参数矩阵进行迭代混合量化，确定任一所述参数矩阵的量化损失值集和显存占用数值集；其中，所述迭代混合量化包括通过多种量化算法对一个参数矩阵进行迭代训练； 根据所述量化损失值集和所述显存占用数值集，通过优化方法确定任一所述参数矩阵的最优量化算法；其中，所述优化方法的输入为不同量化算法下每个参数矩阵的量化损失和显存占用大小、限制条件，所述优化方法的输出为限制条件下，大模型每个参数矩阵最优的量化算法，所述优化方法求解的目标为在可用显存大小一定的前提下，大模型使用求解的每个参数矩阵对应的量化算法进行量化之后，小于可用显存大小的同时量化损失最小； 根据若干所述最优量化算法，对所述待训练模型中的若干参数矩阵进行迭代量化，确定大模型； 通过精调算法对所述大模型的低秩组件的参数进行调整，完成模型精调。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京邮电大学，其通讯地址为：100876 北京市海淀区西土城路10号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。