买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉上海序禄信息科技有限公司申请的专利大语言模型性能优化方法、装置、存储介质及电子设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119862913B 。

龙图腾网通过国家知识产权局官网在2025-07-22发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510354242.9，技术领域涉及：G06N3/0455；该发明授权大语言模型性能优化方法、装置、存储介质及电子设备是由苏世前;许卫波;刘兵;张磊;段庆龙;涂若欣设计研发完成，并于2025-03-25向国家知识产权局提交的专利申请。

本大语言模型性能优化方法、装置、存储介质及电子设备在说明书摘要公布了：本申请提供一种大语言模型性能优化方法、装置、存储介质及电子设备，涉及自然语言处理领域。电子设备通过大语言模型对已生成文本进行处理，得到传输至主解码头的隐藏状态信息；其中，大语言模型还包括与主解码头并行的多个从解码头，多个从解码头之间的预设排列顺序表征解码结果之间的排列顺序；然后，将每个从解码头的序列信息与隐藏状态信息结合，得到每个从解码头的待解码信息；最后，根据从每条待解码信息解码出的候选词集，得到已生成文本后续的最佳预测文本。如此，通过将每个从解码头的序列信息与隐藏状态信息结合后，通过多个从解码头并行对各自的待解码信息进行解码，从而能够在保持推理精度的同时显著提升大语言模型的推理速度。

本发明授权大语言模型性能优化方法、装置、存储介质及电子设备在权利要求书中公布了：1.一种大语言模型性能优化方法，其特征在于，所述大语言模型包括有主解码头，所述方法包括： 通过大语言模型对已生成文本进行处理，得到传输至所述主解码头的隐藏状态信息，其中，所述大语言模型还包括与所述主解码头并行的多个从解码头，所述多个从解码头之间的预设排列顺序表征解码结果之间的排列顺序； 通过正弦函数或者余弦函数将每个所述从解码头的排列位置映射为每个所述从解码头的序列信息； 将每个所述从解码头的序列信息与所述隐藏状态信息结合，得到每个所述从解码头的待解码信息； 通过每个所述从解码头对自身的待解码信息进行解码，得到多个初始词集，其中，每个所述初始词集包括多个初始候选词； 将所述已生成文本中的至少部分文本片段与所述多个初始词集拼接为待筛选序列； 通过预先训练的词筛选模型对所述待筛选序列进行处理，确定出每个所述初始词集中的冗余词，其中，每个所述初始词集中的冗余词表征与上下文语义冲突的初始候选词； 将每个所述初始词集中的冗余词剔除，得到每条所述待解码信息解码出的候选词集； 根据从每条所述待解码信息解码出的候选词集，得到所述已生成文本后续的最佳预测文本，其中，这些候选词集是由所述多个解码头分别解码得到。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海序禄信息科技有限公司，其通讯地址为：200135 上海市浦东新区中国(上海)自由贸易试验区浦东大道2123号三层；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。