Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 深圳市远界管理咨询有限公司钟秋辉获国家专利权

深圳市远界管理咨询有限公司钟秋辉获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉深圳市远界管理咨询有限公司申请的专利一种基于大语言模型的电力行业知识问答方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119415651B

龙图腾网通过国家知识产权局官网在2025-09-05发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411452053.7,技术领域涉及:G06F16/3329;该发明授权一种基于大语言模型的电力行业知识问答方法及系统是由钟秋辉;刘唯一;莫紫凌;袁宇立;向毅斌设计研发完成,并于2024-10-17向国家知识产权局提交的专利申请。

一种基于大语言模型的电力行业知识问答方法及系统在说明书摘要公布了:本发明提供一种基于大语言模型的电力行业知识问答方法及系统,涉及人工智能技术领域,方法包括:获取电力行业数据;构建具有节点权重的知识图谱;获取以电力行业问题作为特征,以电力行业答案作为标签的训练集;构建具有知识图谱嵌入信息的生成式问答模型;建立生成损失函数;以生成损失函数值小于预设生成损失函数值为目标,对生成式问答模型进行训练,以确定生成式问答模型的最优超参数;获取待处理电力行业问题;将待处理电力行业问题输入至训练后的生成式问答模型,输出与待处理电力行业问题相对应的期望电力行业答案。结合具有节点权重的知识图谱和生成式问答模型,降低训练集噪声对模型输出答案的干扰,提升生成答案的一致性和准确性。

本发明授权一种基于大语言模型的电力行业知识问答方法及系统在权利要求书中公布了:1.一种基于大语言模型的电力行业知识问答方法,其特征在于,包括: S1:获取电力行业数据; S2:基于所述电力行业数据,结合具有自适应阻尼系数的PageRank算法构建具有节点权重的知识图谱,其中,所述知识图谱包括代表各个电力实体的节点和代表各个电力实体关系的边; S3:获取以电力行业问题作为特征,以电力行业答案作为标签的训练集; S4:结合所述知识图谱构建具有知识图谱嵌入信息的生成式问答模型,其中,所述生成式问答模型包括依次连接的编码器、缩放点积注意力层和自回归解码器,其中,所述知识图谱通过图嵌入层与所述缩放点积注意力层连接; S5:结合软余弦相似度建立生成损失函数,评估所述生成式问答模型的电力行业生成答案的生成损失; S6:结合具有多状态动态惯性权重的粒子群优化算法,以生成损失函数值小于预设生成损失函数值为目标,利用所述训练集对所述生成式问答模型进行训练,以确定所述生成式问答模型的最优超参数,其中,所述多状态动态惯性权重为基于粒子群多样性和粒子群适应度计算得到的惯性权重; S7:获取待处理电力行业问题; S8:将所述待处理电力行业问题输入至训练后的生成式问答模型,输出与所述待处理电力行业问题相对应的期望电力行业答案; 其中,所述S2具体包括: S201:从所述电力行业数据中抽取基础数据,其中,所述基础数据包括所述电力实体、电力实体属性、所述电力实体关系和所述电力实体关系属性; S202:按所述基础数据将各个节点进行连接,构建初级知识图谱: G=V,E vi=ei,Ai,vi∈V 其中,G表示由节点集合V和边集合E组成的初级知识图谱,vi表示电力实体为ei电力实体属性为Ai的第i个节点,eij表示第i个节点与第j个节点之间电力实体关系为rij,第i个节点与第j个节点之间电力实体关系属性为的边; S203:初始化各个节点的PageRank值,其中,所述PageRank值为节点总数的倒数值: 其中,PRvi表示第i个节点vi的PageRank值,N表示节点总数; S204:根据各个节点的邻接节点数量和出度对各个节点的PageRank值进行更新: 其中,PR′vi表示节点vi的更新后的PageRank值,d表示代表每次计算时随机跳转到其他节点概率的自适应阻尼系数,Ovi表示节点vi的入边邻居集合即节点vi的邻接节点集合,PRvj表示节点vj的PageRank值,N表示节点总数,和分别表示初级知识图谱中节点平均出度和节点平均入度,H和Hmax分别表示初级知识图谱的实际信息熵和代表节点访问分布完全均匀状态下的最大信息熵,log表示对数函数,Pνi分别表示节点νi更新前的被访问概率即PageRank值; S205:将更新后的PageRank值作为所属节点的权重添加至所述初级知识图谱,得到具有节点权重的知识图谱; 其中,所述生成损失函数具体为: 其中,Loss表示生成损失函数,表示得到电力行业生成答案的总概率,log表示对数函数,Y表示标签即电力行业真实答案,表示与标签相对应的电力行业生成答案,表示Y与之间的软余弦相似度,Yp表示Y中的第p个词,表示中的第q个词,Sp,q表示Yp和之间的余弦相似度,Sp,p和Sq,q均表示值为1的自身余弦相似度; 其中,所述S4具体包括: 将所述训练集的特征即所述电力行业问题输入至所述编码器,获取特征隐藏状态; 通过所述图嵌入层将所述知识图谱转换为数值向量的嵌入表示; 结合节点PageRank值,通过所述缩放点积注意力层分别计算所述特征隐藏状态和所述嵌入表示的注意力得分: 其中,αi,j表示第i个隐藏状态与第j个知识图谱节点之间的注意力得分,qi表示由第i个词的隐藏状态转换得到的相对应的查询向量,exp表示自然指数函数,kj和kk分别表示由第j个节点的嵌入表示和第k个节点的嵌入表示经过转换得到的相对应的键向量,dk表示kk的键向量维度,PageRankj表示j节点的PageRank值,T表示转置; 结合所述注意力得分,利用所述自回归解码器以级联方式依次生成基于所述特征隐藏状态和所述嵌入表示的答案词,其中,各个答案词组成生成标签即电力行业生成答案,完成所述生成式问答模型的构建。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人深圳市远界管理咨询有限公司,其通讯地址为:518000 广东省深圳市福田区深南路与彩田路交汇处东方新天地广场第一栋C座6层605B(仅限办公);或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。