买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉浙江大学申请的专利基于Transformer的大模型知识图谱表示方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN115357728B 。

龙图腾网通过国家知识产权局官网在2025-10-10发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202211006989.8，技术领域涉及：G06N5/022；该发明授权基于Transformer的大模型知识图谱表示方法是由张宁豫;程思源;毕祯;梁孝转;陈华钧设计研发完成，并于2022-08-22向国家知识产权局提交的专利申请。

本基于Transformer的大模型知识图谱表示方法在说明书摘要公布了：本发明公开了一种基于Transformer的大模型知识图谱表示方法，包括：1从知识图谱随机采样包含中心三元组的子图，构建掩码子图序列；2利用Transformer提取掩码子图序列中节点的嵌入表示，提取时，以邻接矩阵的多维幂次方作为结构信息，并将结构信息的编码向量添加到Transformer的注意力机制中，以得到掩码节点的嵌入表示；3利用分类器对掩码节点的嵌入表示进行词义预测，以得到词义预测结果；4构建损失函数并优化模型参数；5利用参数优化的模型进行知识图谱的补全。该方法能给充分捕获知识图谱中的结构信息以及上下文语义信息。

本发明授权基于Transformer的大模型知识图谱表示方法在权利要求书中公布了：1.一种基于Transformer的大模型知识图谱表示方法，其特征在于，包括以下步骤： 步骤1，从知识图谱随机采样包含中心三元组的子图，将子图中非三元组的实体节点和实体节点之间的关系均作为上下文节点，将中心三元组与对应的上下文节点序列化以得子图序列，同时构建子图序列的邻接矩阵，对子图序列中的中心三元组中任意节点掩码，得到掩码子图序列； 步骤2，利用Transformer提取掩码子图序列中节点的嵌入表示，提取时，以邻接矩阵的多维幂次方作为结构信息，并将结构信息的编码向量添加到Transformer的注意力机制中，以得到掩码节点的嵌入表示； 步骤3，利用分类器对掩码节点的嵌入表示进行词义预测，以得到词义预测结果； 步骤4，根据词义预测结果与候选节点的词义真值构建监督损失，同时基于正负样本采样构建一致性正则化损失，并基于监督损失一致性正则化损失优化Transformer和分类器的参数； 步骤5，针对待补全的知识图谱，利用参数优化的Transformer和分类器的参数预测缺失节点的词义预测结果，利用该词义预测结果进行知识图谱的补全。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浙江大学，其通讯地址为：310058 浙江省杭州市西湖区余杭塘路866号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。