山东师范大学袁锋获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉山东师范大学申请的专利基于多头注意力机制的中医医案命名实体识别方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN112115719B 。
龙图腾网通过国家知识产权局官网在2025-10-10发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202010896923.5,技术领域涉及:G06F40/295;该发明授权基于多头注意力机制的中医医案命名实体识别方法及系统是由袁锋;于凤洋;郑向伟;虞凤萍;徐传杰;刘悦;王冰设计研发完成,并于2020-08-31向国家知识产权局提交的专利申请。
本基于多头注意力机制的中医医案命名实体识别方法及系统在说明书摘要公布了:本公开提供了一种基于多头注意力机制的中医医案命名实体识别方法,包括以下步骤:获取中医医案的文本数据;将获取的文本数据中的字符向量和单词向量结合后送入到Bi‑GRU神经网络中,进行特征提取,得到全局特征;利用多头注意力机制,为字符向量提供潜在的语义信息,提取局部特征;将全局特征和局部特征输入到条件随机场层,得到文本数据的命名实体序列标注结果;本公开无需分词操作,通过对字符和单词的特征进行结合形成一种联合特征,使用超参数对字符和单词的权重进行控制,将联合特征输入到嵌入层,并且在Bi‑GRU层添加空间关注,弥补了其在提取有效特征中的不足,极大的提高了实体识别的准确率。
本发明授权基于多头注意力机制的中医医案命名实体识别方法及系统在权利要求书中公布了:1.一种基于多头注意力机制的中医医案命名实体识别方法,其特征在于,包括以下步骤: 获取中医医案的文本数据; 将获取的文本数据中的字符向量和单词向量结合后送入到Bi-GRU循环神经网络中,对输入特征向量进行特征提取,将两个方向的GRU结果进行联结,得到全局特征输出,具体为: 使用捕获文本双向信息的Bi-GRU网络来提取句子上下文特征: hs=[h1,h2,…,hm] 其中,at-1,at+1代表当前存储单元的隐藏层状态,ht和分别代表第i个字符位置处的前向和后向存储网络的隐藏状态,yt表示Bi-GRU两个方向上的隐藏状态的组合;hs是Bi-GRU编码输入语句s的结果,m表示语句s所包含的字符总数;在Bi-GRU中对更多的语义上下文特征进行捕获操作,生成全局特征;对字符和单词的特征进行结合形成一种联合特征,使用超参数对字符和单词的权重进行控制,将联合特征输入到嵌入层,并且在Bi-GRU层添加空间关注; 利用多头注意力机制,为字符向量提供潜在的语义信息,提取局部特征;所述多头注意力机制,具体为: 对当前输入的中医文本的隐状态单头注意力权重进行训练;如公式所示: 其中,wQ、wk和wv分别为需要训练权重参数,为平滑项,d为Ht的维度数,Ht是Bi-GRU神经网络的输出;每个单头注意力的输出之间不共享参数; 通过对单头的注意力进行连接得到多头注意力机制;如公式所示: 其中,wm为训练参数,h为拼接数量; 将得到的多头注意力与当前隐状态输出进行连接,加入一个激活层进行训练,得到多头注意力结合Bi-GRU神经网络的输出; 将全局特征和局部特征输入到条件随机场层,得到文本数据的命名实体序列标注结果; 基于多头注意力机制的中医医案命名实体识别方法算法如下: 输入:中医医案文本txt; 输出:最优输出序列标签tagged_txt; 1加载输入中医医案文本; 2txt=loadtxt; 3将字符向量和单词向量结合形成特征向量; 4输入到Bi-GRU神经网络; 5txt_words=Bi-GRUwordsVector; 6多头注意力计算出权重列表; 7MHeadatt_words; 8得到输出矩阵; 9得到转移矩阵; 10返回最优输出序列标签tagged_txt。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人山东师范大学,其通讯地址为:250014 山东省济南市文化东路88号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励