阿里云飞天(杭州)云计算技术有限公司程旭池获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉阿里云飞天(杭州)云计算技术有限公司申请的专利模型训练方法和数据处理方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119150031B 。
龙图腾网通过国家知识产权局官网在2025-10-10发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411621383.4,技术领域涉及:G06F18/214;该发明授权模型训练方法和数据处理方法是由程旭池;李屾设计研发完成,并于2024-11-13向国家知识产权局提交的专利申请。
本模型训练方法和数据处理方法在说明书摘要公布了:本申请公开了一种模型训练方法和数据处理方法,涉及人工智能技术领域,该方法包括:获取训练样本集;若样本问题的问题类型为限制性问题,则依据限制性问题对应的损失函数和训练样本集对初始自然语言模型进行训练,得到目标自然语言模型;若样本问题的问题类型为除限制性问题之外的问题,则依据除限制性问题之外的问题对应的损失函数和训练样本集对初始自然语言模型进行训练,得到目标自然语言模型。本申请解决了通过DPO训练自然语言模型时对于不同类型的样本问题采用相同的损失函数,导致自然语言模型答复问题的准确性比较低的技术问题。
本发明授权模型训练方法和数据处理方法在权利要求书中公布了:1.一种模型训练方法,其特征在于,包括: 获取训练样本集,其中,所述训练样本集中至少包括:多个训练样本,所述多个训练样本中的训练样本包括样本问题,所述样本问题对应的第一回答信息和第二回答信息,所述第一回答信息为推荐回答,所述第二回答信息为非推荐回答; 若所述样本问题的问题类型为限制性问题,则依据所述限制性问题对应的损失函数和所述训练样本集对初始自然语言模型进行训练,得到目标自然语言模型; 若所述样本问题的问题类型为除限制性问题之外的问题,则依据所述除限制性问题之外的问题对应的损失函数和所述训练样本集对所述初始自然语言模型进行训练,得到所述目标自然语言模型; 其中,依据所述限制性问题对应的损失函数和所述训练样本集对所述初始自然语言模型进行训练,得到所述目标自然语言模型包括: 通过所述初始自然语言模型对所述训练样本集中的样本问题进行答复,得到所述第一回答信息对应的第四生成概率和所述第二回答信息对应的第五生成概率; 依据所述第五生成概率进行计算,得到第六生成概率,其中,所述第六生成概率为所述第五生成概率对应的事件的对立事件的发生概率; 依据所述第四生成概率和所述第六生成概率进行计算,得到限制性问题对应的损失函数,并依据限制性问题对应的损失函数对所述初始自然语言模型进行训练,得到所述目标自然语言模型; 其中,依据所述第四生成概率和所述第六生成概率进行计算,得到限制性问题对应的损失函数包括: 通过所述初始自然语言模型对所述训练样本集中的样本问题进行答复,得到所述第一回答信息对应的第一参考生成概率和所述第二回答信息对应的第二参考生成概率; 依据所述第二参考生成概率进行计算,得到第三参考生成概率,其中,所述第三参考生成概率为所述第二参考生成概率对应的事件的对立事件的发生概率; 依据所述第一参考生成概率、所述第三参考生成概率、所述第四生成概率和所述第六生成概率进行计算,得到限制性问题对应的损失函数; 其中,所述第一参考生成概率和所述第二参考生成概率用于对模型参数的更新产生约束。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人阿里云飞天(杭州)云计算技术有限公司,其通讯地址为:311199 浙江省杭州市临平区星桥街道星桥北路173号2幢121室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励