深圳大学何志权获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉深圳大学申请的专利基于三角度注意力和实体-关系相关性的DocRE方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120407806B 。
龙图腾网通过国家知识产权局官网在2025-09-09发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510899504.X,技术领域涉及:G06F16/353;该发明授权基于三角度注意力和实体-关系相关性的DocRE方法是由何志权;尹升腾;陈庆锋设计研发完成,并于2025-07-01向国家知识产权局提交的专利申请。
本基于三角度注意力和实体-关系相关性的DocRE方法在说明书摘要公布了:本发明具体公开了一种基于三角度注意力和实体‑关系相关性的DocRE方法,属于自然语言处理技术领域。该方法首先将输入文档编码至预训练语言模型PLM,获取嵌入表示及多头注意力矩阵;接着设计实体对‑上下文注意力、实体对‑证据注意力和实体对间注意力三种机制,并通过注意力迁移模块对三类注意力信息进行特征对齐与加权融合,生成统一的实体对语义表示;然后构建实体‑关系共现图,借助图注意力网络实现节点特征聚合与传播,获取实体‑关系共现特征;最后将融合语义特征与共现特征拼接,用于实体对关系的分类预测。该方法有效提升了跨句推理能力和远距离实体建模效果,增强了模型对复杂关系的抽取准确性与泛化能力。
本发明授权基于三角度注意力和实体-关系相关性的DocRE方法在权利要求书中公布了:1.一种基于三角度注意力和实体-关系相关性的DocRE方法,其特征在于,步骤如下: 步骤S1、输入文档至预训练语言模型PLM,获取Token嵌入表示及多头注意力矩阵; 步骤S2、基于预训练语言模型最后一层的多头注意力矩阵构建实体对-上下文注意力E2CA、实体对-证据注意力E2EV和实体对间注意力E2EA三种注意力机制; 步骤S3、设计注意力迁移模块AT,对E2CA、E2EV和E2EA三种注意力机制的信息进行特征对齐与加权融合,生成统一的实体对语义表示; 步骤S4、构建实体-关系共现图,基于实体-关系共现图引入图注意力网络GAT对图中节点进行特征聚合与传播,获得实体-关系共现特征; 步骤S5、将融合语义特征与共现特征进行拼接,作为实体对关系的判别依据; 步骤S6、损失函数设计,包括自适应焦点损失和结合证据信息引导的损失函数; 步骤S7、对每个实体对进行关系分类预测,输出最终的关系类别结果; 在步骤S4中,构建实体-关系共现图的步骤包括:基于训练语料统计实体与关系标签的共现信息,构建实体-关系共现矩阵,以实体和关系标签为节点,以共现关系为边;边的权重由条件概率决定,计算公式如下: ; 其中,为实体-关系共现矩阵中实体与关系标签的共现次数; 在步骤S6中,自适应焦点损失的计算公式如下: ; ; ; 其中,表示关系抽取任务的损失,、表示在实体对下预测关系类别的概率,、表示在实体对上预测为阈值类的概率,表示实体对对于关系的logit值,表示实体对对于阈值类的logit值,表示负类子集,为自适应焦点损失的调控因子,为实体对对于阈值类的logit值,为实体对对于关系的logit值,为阈值类别,为正类子集; 结合证据信息引导的损失函数的计算公式如下: ; 其中,为KL散度损失,为人工证据分布,为模型预测的证据分布,表示证据检索任务的损失; 总的损失函数公式如下: ; 其中,为可调节的平衡系数。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人深圳大学,其通讯地址为:518060 广东省深圳市南山区南海大道3688号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。