济南职业学院;中兴协力(山东)数字科技集团有限公司滕丽丽获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉济南职业学院;中兴协力(山东)数字科技集团有限公司申请的专利基于差异注意力机制的高考专业属性实体抽取方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116737916B 。
龙图腾网通过国家知识产权局官网在2025-12-19发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310616399.5,技术领域涉及:G06F16/335;该发明授权基于差异注意力机制的高考专业属性实体抽取方法是由滕丽丽;李玉翠;郑伟;陈亮设计研发完成,并于2023-05-29向国家知识产权局提交的专利申请。
本基于差异注意力机制的高考专业属性实体抽取方法在说明书摘要公布了:本发明属于计算机应用技术领域,尤其涉及一种基于差异注意力机制的高考专业属性实体抽取方法。本方法将字符向量、外部词汇向量、实体文本向量作为差异注意力机制的键、值、查询,有效的使外部知识的差异性融入到原始文本中,提高了在不同语境下字符向量的个性化表示,实现了更好的融合,同时,利用CRF模型进行结构输出,进而实现了高考专业属性实体抽取,为高考专业进行赋属性,从而方便考生进行选择。
本发明授权基于差异注意力机制的高考专业属性实体抽取方法在权利要求书中公布了:1.一种基于差异注意力机制的高考专业属性实体抽取方法,其特征在于,包括以下步骤: a、首先收集大学专业相关内容文本; b、采用中文预训练模型对待抽取文本进行嵌入表示,得到原始文本嵌入; c、通过外部知识补充的方式增强字符向量的语义信息,其中,外部知识包括外部词汇知识和外部短文本语义知识并完成外部知识嵌入表示; d、然后,通过注意力机制对外部知识信息进行处理,融入原始文本嵌入,然后,信息融入信息后输入到Transformer模型的编码器部分进行计算; e、将Transformer模型的编码器计算结果输入到CRF模型中完成序列标注,即完成高考专业属性的实体抽取; 其中,所述d步骤中,通过注意力机制对外部知识信息进行处理中注意力打分函数为: , 其中,外部短文本语义知识嵌入表示为,外部词汇知识嵌入表示为,表示Pytorch.cat函数的计算,为此,最终差异注意力机制计算为: , 其中,表示原始文本嵌入,表示外部知识信息融入原始文本嵌入的结果,其中,输入文本字符向量表示为V,外部知识词汇向量表示等价于K,输入文本中实体的短文本解释向量等价于Q。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人济南职业学院;中兴协力(山东)数字科技集团有限公司,其通讯地址为:250000 山东省济南市舜耕路12号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励