买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉南京邮电大学申请的专利一种大语言模型权重与激活联合量化方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120409566B 。

龙图腾网通过国家知识产权局官网在2025-09-05发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510863856.X，技术领域涉及：G06N3/0495；该发明授权一种大语言模型权重与激活联合量化方法及系统是由陆婉婷;龚乐君设计研发完成，并于2025-06-26向国家知识产权局提交的专利申请。

本一种大语言模型权重与激活联合量化方法及系统在说明书摘要公布了：本发明公开一种大语言模型权重与激活联合量化方法及系统，属于模型量化技术领域；方法包括：收集并预处理校准集，输入大语言模型执行前向传播，记录激活矩阵；针对每个嵌入维度，统计所有词元在维度上的激活最大绝对值；通过分位数统计方法结合全局敏感性系数，生成全局阈值，判定维度中激活最大绝对值超过所述全局阈值的为离群值维度；分别对正常维度与离群值维度设计缩放因子，生成重构权重矩阵；使用贝叶斯‑梯度联合优化重构权重的截断阈值；计算重构权重矩阵的缩放因子，得到重构量化权重矩阵；对当前层的激活矩阵按嵌入维度应用缩放因子进行量化；并与重构量化权重矩阵进行乘法计算，得到整型域中乘法输出结果，之后进行统一反量化恢复。

本发明授权一种大语言模型权重与激活联合量化方法及系统在权利要求书中公布了：1.一种大语言模型权重与激活联合量化方法，其特征在于，包括以下步骤： 收集校准集，对校准集进行预处理，并输入大语言模型中执行前向传播，记录各层的激活矩阵； 基于激活矩阵，针对每个嵌入维度，统计所有词元在该维度上的激活最大绝对值；通过分位数统计方法结合全局敏感性系数，动态生成一个全局阈值，判定维度中激活最大绝对值超过所述全局阈值的为离群值维度； 基于离群值维度判定结果，分别对正常维度与离群值维度设计差异化的缩放因子，并应用于原始权重矩阵的对应行，生成重构权重矩阵； 基于重构权重矩阵，使用贝叶斯-梯度联合优化重构权重的截断阈值； 基于优化后截断阈值，计算重构权重矩阵的缩放因子，并对重构权重进行量化，得到重构量化权重矩阵； 加载正常维度与离群值维度的缩放因子，并对当前层的激活矩阵按嵌入维度应用缩放因子进行量化，得到量化后的激活矩阵； 将量化后的激活矩阵和重构量化权重矩阵进行乘法计算，得到整型域中乘法输出结果，并基于重构权重矩阵的缩放因子，将整型域中乘法输出结果映射回浮点近似表示，进行统一反量化恢复。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人南京邮电大学，其通讯地址为：210023 江苏省南京市栖霞区文苑路9号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。