买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京衔远有限公司;中建三局集团北京有限公司申请的专利大语言模型优化方法和优化装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120633740B 。

龙图腾网通过国家知识产权局官网在2025-12-05发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511141940.7，技术领域涉及：G06N3/08；该发明授权大语言模型优化方法和优化装置是由谢树雷;陈刚;黄诚设计研发完成，并于2025-08-15向国家知识产权局提交的专利申请。

本大语言模型优化方法和优化装置在说明书摘要公布了：本申请涉及人工智能技术领域，提供了一种大语言模型优化方法和优化装置。该方法通过在预训练大语言模型中输入问题得到候选答案，计算候选答案的第一奖励值、第二奖励值和第三奖励值，其中第一奖励值用于表征候选答案的基础奖励，第二奖励值用于表征候选答案与问题的契合度，第三奖励值用于表征候选答案与用户偏好的对齐程度，然后对第一奖励值、第二奖励值和第三奖励值进行多头融合，得到目标奖励值，最后基于目标奖励值训练预训练大语言模型，得到优化后的大语言模型，实现了以多头分层的方式自适应学习大语言模型不同层次的奖励机制的重要性系数，进而提高了模型训练效率，提升了训练后的模型的生成质量。

本发明授权大语言模型优化方法和优化装置在权利要求书中公布了：1.一种大语言模型优化方法，其特征在于，包括： 在预训练大语言模型中输入问题，得到候选答案； 计算所述候选答案的奖励值；所述奖励值至少包括第一奖励值、第二奖励值和第三奖励值，所述第一奖励值用于表征候选答案的基础奖励，所述第二奖励值用于表征所述候选答案与问题的契合度，所述第三奖励值用于表征所述候选答案与用户偏好的对齐程度； 对所述第一奖励值、所述第二奖励值和所述第三奖励值进行多头融合，得到目标奖励值； 基于所述目标奖励值训练所述预训练大语言模型，得到优化后的大语言模型； 基于所述预训练大语言模型的预设散度值和生成位置动态计算当前步的温度系数； 基于预设温度控制策略更新所述温度系数； 基于所述目标奖励值和更新后的温度系数训练所述预训练大语言模型，得到优化后的大语言模型； 所述第一奖励值采用如下方式确定： 确定所述候选答案中的多样性参考词元序列，确定所述多样性参考词元序列数在全部词元中的占比； 基于所述占比确定所述候选答案的多样性； 确定所述候选答案的困惑度； 基于所述多样性和困惑度确定所述第一奖励值； 所述第二奖励值采用如下方式确定： 获取所述候选答案中各词元的嵌入向量； 获取所述问题中的目标提示词，所述目标提示词为与语境和主题中至少一项相关的提示词； 确定所述嵌入向量和所述目标提示词的相似度为所述第二奖励值； 所述第三奖励值采用如下方式确定： 获取目标用户，所述目标用户为优化后的大语言模型面向的用户； 获取所述目标用户的偏好奖励模型，所述目标用户的偏好奖励模型基于目标样本数据训练得到，所述目标样本数据为基于目标用户偏好进行标注的数据； 使用所述目标用户的偏好奖励模型对所述候选答案评分，得到所述第三奖励值。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京衔远有限公司;中建三局集团北京有限公司，其通讯地址为：100080 北京市海淀区学院路51号首享科技大厦第三层306室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。