Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 之江实验室黄飞获国家专利权

之江实验室黄飞获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉之江实验室申请的专利基于知识库反馈的生成式大语言模型的训练方法和装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN117009490B

龙图腾网通过国家知识产权局官网在2025-08-12发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202311112954.7,技术领域涉及:G06F16/3329;该发明授权基于知识库反馈的生成式大语言模型的训练方法和装置是由黄飞;战凯;吴信东设计研发完成,并于2023-08-31向国家知识产权局提交的专利申请。

基于知识库反馈的生成式大语言模型的训练方法和装置在说明书摘要公布了:本发明公开了一种基于知识库反馈的生成式大语言模型的训练方法和装置,该方法利用领域知识库以及监督微调训练对大语言模型进行优化;采用基于知识库反馈的强化学习方法,利用领域知识库,构建奖励模型,对大语言模型生成的答案进行打分和反馈,构成了强化学习的流程。本发明的创新之处将知识图谱技术应用在奖励构建之中,从而可通过知识工程的自动化流程进行大语言模型微调,取代了基于人类反馈的强化学习,有利于节省大量人类反馈标注的高昂成本,基于确定性的知识推理得到领域应用的正确答案可修正生成式大语言模型捏造事实的关键缺陷,可使用在基于领域知识图谱构建行业垂直应用语言大模型的场景,适用性强。

本发明授权基于知识库反馈的生成式大语言模型的训练方法和装置在权利要求书中公布了:1.一种基于知识库反馈的生成式大语言模型的训练方法,其特征在于,包括以下步骤: 1采用开源的大语言模型作为基础,使用无标注数据对该大语言模型进行自监督训练,以获取预训练好的大语言模型; 2从领域的问题库中抽取问题,利用Prompt提示从领域的知识库中检索问题对应的期望答案,根据问题和问题对应的期望答案构建领域的标记数据集;使用标记数据集中的标记数据对所述步骤1获取的预训练好的大语言模型进行监督微调训练,以获取监督微调训练好的大语言模型; 3使用所述步骤2构建的领域的标记数据集中的问题,输入到所述步骤2获取的监督微调训练好的大语言模型中,获取多个预测答案并与标记数据集中该问题对应的期望答案共同构建多个问答对,并获取问答对所属的主题;在领域的知识图谱中对问题进行检索,以获取匹配的语义节点;根据匹配的语义节点和多个预测答案以及期望答案计算相似度,根据相似度对答案得分进行排序,并使用排序后的答案得分修正奖励模型; 4将所述步骤2获取的监督微调训练好的大语言模型,基于所述步骤3获取的奖励模型输出的答案得分,以强化学习中的近端策略优化模型进行训练,以获取生成式大语言模型。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人之江实验室,其通讯地址为:311121 浙江省杭州市余杭区中泰街道科创大道之江实验室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。