浙江大学庄越挺获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉浙江大学申请的专利基于潜在单元微调的大模型知识图谱问答方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119443271B 。
龙图腾网通过国家知识产权局官网在2025-11-04发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411487073.8,技术领域涉及:G06N5/04;该发明授权基于潜在单元微调的大模型知识图谱问答方法及装置是由庄越挺;鲁伟明;谭泽琦设计研发完成,并于2024-10-23向国家知识产权局提交的专利申请。
本基于潜在单元微调的大模型知识图谱问答方法及装置在说明书摘要公布了:本发明涉及一种基于潜在单元微调的大模型图谱问答方法及装置,该方法包括以下步骤:基于符号化的知识图谱和关系路径以及使用高维提示词表示潜在单元的变量,将大型语言模型与知识图谱进行潜在关系学习,生成关系推理路径,其中,大型语言模型的输入层附加可训练的潜在单元;而潜在单元通过正态分布随机初始化,并在隐学习过程中与大型语言模型共同进行微调;对关系推理路径进行相关性评估,并选择最相关的关系推理路径;输入自然语言问题,通过最相关的关系推理路径,得到知识图谱中的答案。本发明利用这些经过微调的潜在单元过滤掉无关且具有误导性的上下文片段,同时提高响应效率和性能。
本发明授权基于潜在单元微调的大模型知识图谱问答方法及装置在权利要求书中公布了:1.基于潜在单元微调的大模型知识图谱问答方法,其特征在于,包括以下步骤: 基于符号化的知识图谱和关系路径以及使用高维提示词表示潜在单元的变量,将大型语言模型与知识图谱进行潜在关系学习,生成关系推理路径,其中,所述大型语言模型的输入层附加可训练的所述潜在单元;而所述潜在单元通过正态分布随机初始化,并在隐学习过程中与所述大型语言模型共同进行微调; 将大型语言模型与知识图谱进行潜在关系学习包括:使用一组所述潜在单元通过最小化KL散度来逼近有效关系路径的后验信息统计,具体为:给定一个问题、答案和一组潜在单元,识别出在知识图谱中连接问题实体与答案实体的关系推理路径,相应的关系推理路径被视为有效关系路径,并作为回答问题的方案;后验信息统计中的后验分布被形式化为路径存在的条件概率,并假设在所有有效关系路径上均匀分布,而且KL散度基于知识图谱中问题—实体与答案—实体之间的最短路径作为监督信号,最大化所述大型语言模型生成有效关系路径的概率; 对所述关系推理路径进行相关性评估,并选择最相关的关系推理路径,包括:基于微调后的大型语言模型和隐学习中的潜在单元集,构建关于关系推理路径的条件概率函数,通过条件概率函数筛选出最大化条件概率的关系推理路径,即在给定问题和推理路径的条件下,潜在单元的概率最大,其中,最大化条件概率的关系推理路径为最相关的关系推理路径;为此,计算生成的多个token向量与对应的潜在单元之间的两两余弦相似度,余弦相似度度量了向量之间的相似程度,其值范围从-1到1,通过累加得到聚合分数,通过最大化聚合分数,筛选出与问题最相关、与潜在单元最匹配的关系推理路径,从而得到最相关的关系推理路径; 输入自然语言问题,通过所述最相关的关系推理路径,得到所述知识图谱中的答案。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人浙江大学,其通讯地址为:310058 浙江省杭州市西湖区余杭塘路866号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励