山东浪潮科学研究院有限公司杨彤获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉山东浪潮科学研究院有限公司申请的专利一种基于大语言模型的代码生成方法、装置、设备及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120406959B 。
龙图腾网通过国家知识产权局官网在2025-09-05发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510919905.7,技术领域涉及:G06F8/41;该发明授权一种基于大语言模型的代码生成方法、装置、设备及存储介质是由杨彤;李雪;张吉臣;邵嘉豪设计研发完成,并于2025-07-04向国家知识产权局提交的专利申请。
本一种基于大语言模型的代码生成方法、装置、设备及存储介质在说明书摘要公布了:本申请公开了一种基于大语言模型的代码生成方法、装置、设备及存储介质,涉及大模型技术领域,包括:基于模型的用于代码生成的初始推理路径生成当前标记,缓存当前标记的查询向量,基于若干待处理标记的查询向量构建选择窗口;利用基于选择窗口获取的目标模型层和目标注意力头的滑动窗口注意力处理历史标记得到重要性评分结果与段落生成结果,利用基于重要性评分结果和各段落生成结果的语义稀疏性结果确定的语义块划分策略划分待压缩标记序列为语义块,基于各语义块的重要性得分并利用基于模型特性和推理需求确定的压缩控制参数生成目标压缩策略,利用目标压缩策略压缩初始推理路径得到目标推理路径以生成代码。这样能够提高代码生成的效率。
本发明授权一种基于大语言模型的代码生成方法、装置、设备及存储介质在权利要求书中公布了:1.一种基于大语言模型的代码生成方法,其特征在于,包括: 利用预设自回归方式并基于所述大语言模型对应的用于代码生成的初始推理路径生成各当前标记,并缓存与各所述当前标记对应的查询向量,然后从各所述当前标记中选取预设数量个最近生成的各待处理标记,以基于各所述待处理标记分别对应的查询向量构建选择窗口; 基于所述选择窗口获取目标模型层和目标注意力头分别对应的滑动窗口注意力,并基于所述滑动窗口注意力对相应的历史标记进行处理,得到重要性评分结果与段落生成结果,然后对各所述段落生成结果进行评估,得到对应的语义稀疏性结果;所述目标模型层为所述大语言模型的各模型层中与历史标记对应的模型层;所述目标注意力头为所述大语言模型的各注意力头中与历史标记对应的注意力头; 基于所述重要性评分结果与所述语义稀疏性结果确定语义块划分策略,并基于所述语义块划分策略将包括各所述当前标记的待压缩标记序列划分为语义块,然后基于各所述语义块对应的重要性得分进行排序,得到排序结果; 基于所述大语言模型的模型特性和推理需求确定压缩控制参数,以基于所述压缩控制参数生成目标压缩策略,并利用所述目标压缩策略对所述大语言模型对应的初始推理路径进行压缩,得到目标推理路径;所述压缩控制参数包括压缩间隔、选择窗口大小与压缩比例; 利用所述大语言模型并基于所述目标推理路径生成代码。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人山东浪潮科学研究院有限公司,其通讯地址为:250000 山东省济南市高新区浪潮路1036号S02号楼;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。