拉扎斯网络科技(上海)有限公司王江获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉拉扎斯网络科技(上海)有限公司申请的专利模型训练方法、装置、电子设备及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120409744B 。
龙图腾网通过国家知识产权局官网在2025-09-26发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510916094.5,技术领域涉及:G06N20/00;该发明授权模型训练方法、装置、电子设备及存储介质是由王江;董正心;柏兵;姜谷雨;苑爱泉设计研发完成,并于2025-07-03向国家知识产权局提交的专利申请。
本模型训练方法、装置、电子设备及存储介质在说明书摘要公布了:本申请公开了一种模型训练方法、装置、电子设备及计算机存储介质。其中,该模型训练方法包括:基于预设训练样本集中的第一训练样本集对初始基线模型进行监督微调,得到监督微调模型以及偏好数据样本;基于偏好数据样本对初始奖励模型进行优化训练,得到目标奖励模型,以及基于偏好数据样本对监督微调模型进行优化训练,得到偏好优化模型;基于偏好优化模型和第一训练样本集生成第一奖励信号,以及基于偏好优化模型、目标奖励模型和预设训练样本集中的第二训练样本集生成第二奖励信号;基于第一奖励信号、第二奖励信号以及第二训练样本集对偏好优化模型进行优化训练,得到目标对象生成式预训练模型。采用该方法能够提升模型的泛化能力。
本发明授权模型训练方法、装置、电子设备及存储介质在权利要求书中公布了:1.一种模型训练方法,其特征在于,所述方法包括: 获取初始基线模型、初始奖励模型和预设训练样本集,其中,所述预设训练样本集中包括多个对象响应训练任务对应的多个训练样本组,所述对象为电商类对象,所述对象响应训练任务为以所述对象的相关信息为输入目标,生成针对所述对象的响应信息的训练任务,所述多个对象响应训练任务至少包括以下一种或多种类型的任务:类别预测类型、标题生成类型、信息抽取类型、产品匹配类型、搜索相关性类型以及查询标注类型,所述类别预测类型的对象响应训练任务用于根据商品的基本属性信息预测所述商品所属的标准化产品单元类别标签,所述信息抽取类型的对象响应训练任务用于从商品标题或商品属性中提取结构化属性信息,所述搜索相关性类型的对象响应训练任务用于评估商品对应的上下文信息中用户查询和商品标题之间的相关性,所述查询标注类型的对象响应训练任务用于为用户搜索查询分配词性标记; 基于所述预设训练样本集中的第一训练样本集对所述初始基线模型进行监督微调,得到监督微调模型以及偏好数据样本; 基于所述偏好数据样本对所述初始奖励模型进行优化训练,得到目标奖励模型,以及基于所述偏好数据样本对所述监督微调模型进行优化训练,得到偏好优化模型; 基于所述偏好优化模型和所述第一训练样本集生成第一奖励信号,以及基于所述偏好优化模型、所述目标奖励模型和所述预设训练样本集中的第二训练样本集生成第二奖励信号,所述第一奖励信号为基于所述偏好优化模型在所述第一训练样本集上生成第一预测响应,并将所述第一预测响应与参考输出进行对比,使用差异度量指标计算得出的分数型奖励信号;所述第二奖励信号为基于所述偏好优化模型在所述第二训练样本集上生成第二预测响应,并将输入样本与所述第二预测响应一并输入目标奖励模型进行打分,得到表示生成质量的数值奖励; 基于所述第一奖励信号、所述第二奖励信号以及所述第二训练样本集对所述偏好优化模型进行优化训练,得到目标对象生成式预训练模型; 所述基于所述第一奖励信号、所述第二奖励信号以及所述第二训练样本集对所述偏好优化模型进行优化训练,得到目标对象生成式预训练模型,包括: 基于所述第一奖励信号对所述偏好优化模型进行强化学习,得到强化对象生成式预训练模型; 基于所述第二奖励信号和所述第二训练样本集对所述强化对象生成式预训练模型进行无监督训练,得到目标对象生成式预训练模型。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人拉扎斯网络科技(上海)有限公司,其通讯地址为:200333 上海市普陀区真北路788号507室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。