上海人工智能创新中心张文蔚获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉上海人工智能创新中心申请的专利一种多源代码数据处理与大语言模型微调训练方法、装置及介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN118444889B 。
龙图腾网通过国家知识产权局官网在2025-08-19发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202410373743.7,技术领域涉及:G06F8/30;该发明授权一种多源代码数据处理与大语言模型微调训练方法、装置及介质是由张文蔚;宋子帆;汪昱东;刘奎坤;吕成器;宋徳敏;郭琦鹏;颜航;林达华;陈恺;赵才荣设计研发完成,并于2024-03-29向国家知识产权局提交的专利申请。
本一种多源代码数据处理与大语言模型微调训练方法、装置及介质在说明书摘要公布了:本发明涉及一种多源代码数据处理与大语言模型微调训练方法、装置及介质,其中数据处理方法包括以下步骤:获取第一开源代码数据集并进行指令进化,获得扩展后的代码数据,与第二开源代码数据集整合获得多源代码数据;对多源代码数据进行过滤和去重,获得过滤后多源代码数据;根据数据构造流程提取代码理解任务数据;设计数据特定提示生成指令,将过滤后多源代码数据作为基础数据进行数据特定提示生成,将生成的提示插入至对应的原基础数据指令开头,形成数据特定提示定制化数据;将代码理解任务数据、数据特定提示定制化数据合并入过滤后多源代码数据以实现数据调和。与现有技术相比,本发明具有数据多样性好、调和了多源代码数据的内在冲突、训练后的模型指令跟随能力强等优点。
本发明授权一种多源代码数据处理与大语言模型微调训练方法、装置及介质在权利要求书中公布了:1.一种多源代码数据处理方法,其特征在于,包括以下步骤: 开源数据进化及整合:获取第一开源代码数据集并将其作为基础数据,使用第一大语言模型为生成模型对基础数据进行指令进化,获得扩展后的代码数据,整合扩展后的代码数据和第二开源代码数据集,获得多源代码数据,所述多源代码数据包括指令和回复; 数据过滤及去重:对多源代码数据中不符合要求的数据进行过滤和去重,获得过滤后多源代码数据; 代码理解任务构造:根据数据构造流程提取代码理解任务数据,所述数据构造流程包括指令进化和数据过滤及去重过程;所述代码理解任务数据包括: 1)指令进化任务数据:选择开源数据进化及整合过程中生成的满足以下任一条件的数据作为指令进化任务数据: 进行指令进化前后的指令均存在于过滤后多源代码数据中的数据; 指令进化后的指令所对应的回复代码段的语法树层数不小于进化前的指令所对应的回复代码段的语法树层数; 2)数据过滤任务数据:选择低质量数据构造选择题格式数据作为数据过滤任务数据; 3)代码审查任务数据:设计代码审查任务数据生成指令,使用多源代码数据为基础数据、第二大语言模型为生成模型生成代码审查任务数据; 数据特定提示生成:设计数据特定提示生成指令,将过滤后多源代码数据作为基础数据,使用第二大语言模型为生成模型进行数据特定提示生成,将所生成的提示插入至对应的原基础数据指令开头,形成数据特定提示定制化数据; 数据合并:将代码理解任务数据、数据特定提示定制化数据合并入过滤后多源代码数据以实现数据调和。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人上海人工智能创新中心,其通讯地址为:200232 上海市徐汇区云锦路701号37、38层;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。