北京三快在线科技有限公司韩瑶鹏获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉北京三快在线科技有限公司申请的专利一种模型训练方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN114860876B 。
龙图腾网通过国家知识产权局官网在2025-10-28发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210448257.8,技术领域涉及:G06F16/33;该发明授权一种模型训练方法及装置是由韩瑶鹏;昝文;江小天;肖垚;陈胜设计研发完成,并于2022-04-26向国家知识产权局提交的专利申请。
本一种模型训练方法及装置在说明书摘要公布了:本说明书公开了一种模型训练方法及装置。在预训练阶段,针对一个搜索结果及其对应的一对搜索结果确定第一训练样本,并通过双塔结构的相关度模型,确定该第一样本中各搜索结果的第一特征以及查询文本对应的两个第二特征,基于各第一样本的第一特征间的特征距离以及第二特征间的特征距离,确定对比损失,以对相关度模型进行预训练。再将查询文本与其对应的各搜索结果分别组合得到各第二样本,将第二样本中查询文本与搜索结果的相关度作为标注,继续训练相关度模型。能够在预训练阶段通过对比学习使相关度模型能够准确表征查询文本与搜索结果的结果文本的特征,并再基于标注的相关度进一步对相关度模型进行训练,使相关度模型能够准确输出相关度。
本发明授权一种模型训练方法及装置在权利要求书中公布了:1.一种模型训练方法,其特征在于,双塔结构的相关度模型包括查询塔以及结果塔,所述查询塔与所述结果塔共用参数,所述方法包括: 根据各查询文本的搜索结果集,确定各第一样本,所述第一样本由查询文本及其对应的一对搜索结果组成; 针对每个第一样本,将该第一样本中的各搜索结果分别输入所述结果塔,得到各搜索结果分别对应的第一特征; 将该第一样本中的查询文本输入所述查询塔,确定所述查询文本分别对应的两个第二特征; 分别根据各第一样本中第一特征间的特征距离以及各第二特征间的特征距离,确定对比损失,并根据所述对比损失对所述相关度模型进行预训练; 当预训练完成后,根据各查询文本与其每个搜索结果组合得到的各第二样本,以及根据各第二样本中查询文本与搜索结果的相关度确定的各第二样本的标注,继续训练所述相关度模型,所述相关度模型用于确定用户输入的查询文本对应的搜索结果排序;将该第一样本中的查询文本输入所述查询塔,确定所述查询文本分别对应的两个第二特征,具体包括: 通过所述查询塔,根据该第一样本中的查询文本,确定所述查询文本的两个相似文本; 确定所述两个相似文本分别对应的特征,作为各第二特征;分别根据各第一样本中第一特征间的特征距离以及各第二特征间的特征距离,确定对比损失,具体包括: 针对每个第一样本,确定该第一样本内各第一特征间的特征距离,作为第一距离,并确定该第一样本的各第一特征分别与其他第一样本的第一特征两两间的特征距离,作为各第二距离; 根据所述第一距离以及各第二距离,确定该第一样本对应的结果损失,其中,所述第一距离与所述结果损失正相关,所述第二距离与所述结果损失负相关;确定该第一样本内各第二特征间的特征距离,作为第三距离,并确定该第一样本的各第二特征分别与其他第一样本的第二特征两两间的特征距离,作为各第四距离; 根据所述第三距离以及各第四距离,确定该第一样本对应的查询损失,其中,所述第三距离与所述查询损失正相关,所述第四距离与所述查询损失负相关;根据各第一样本对应的结果损失以及各第一样本对应的查询损失,确定对比损失;根据所述第一距离以及各第二距离,确定该第一样本对应的结果损失,具体包括: 针对该第一样本中每个搜索结果,确定该搜索结果对应的结果文本,并根据所述结果文本,生成该搜索结果对应的各困难样本; 将各困难样本分别输入所述结果塔,确定各困难样本对应的第三特征; 针对该第一样本的每个第一特征,确定该第一特征分别与该第一样本的各第三特征间的特征距离,作为各第五距离; 根据该第一样本对应的所述第一距离、各第二距离以及各第五距离,确定该第一样本对应的结果损失; 其中,所述第五距离与所述结果损失负相关。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京三快在线科技有限公司,其通讯地址为:100080 北京市海淀区北四环西路9号2106-030;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励