Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 大连民族大学赵迪获国家专利权

大连民族大学赵迪获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉大连民族大学申请的专利一种基于Longformer的电子病历多标签文本分类方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN117112787B

龙图腾网通过国家知识产权局官网在2025-07-11发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202311073044.2,技术领域涉及:G06F16/353;该发明授权一种基于Longformer的电子病历多标签文本分类方法是由赵迪;孟佳娜;李雪莹;于玉海;闫婧;孙世昶设计研发完成,并于2023-08-24向国家知识产权局提交的专利申请。

一种基于Longformer的电子病历多标签文本分类方法在说明书摘要公布了:一种基于Longformer的电子病历多标签文本分类方法,属于文本分类技术领域,在经过Longformer预训练模型、多滤波器残差卷积神经网络和重新聚合校准模块以及标签注意力机制的处理后,数据集中的文本语义已经被充分的提取,考虑到数据集规模较大,并且具有标签分布不平衡的情况,因此为了增大模型的整体深度,扩充深度学习中神经元的层数,使模型在某些有些的标签之中更好地学习文本的特征,拟合数据的信息,在模型的结尾加入前馈神经网络,最后通过sigmoid函数对结果进行输出,并且在加入前馈神经网络之后,模型的性能得到了略微的提高,这也进一步证明了前馈神经网络在本模型之中的作用。

本发明授权一种基于Longformer的电子病历多标签文本分类方法在权利要求书中公布了:1.一种基于Longformer的电子病历多标签文本分类方法,其特征在于,包括如下步骤: S1、电子病历的文本通过Longformer预训练模型被转化为词向量,词向量作为多滤波器残差卷积神经网络的输入,多滤波器残差卷积神经网络由多滤波器卷积神经网络和残差卷积神经网络组成; S2、在经过分别经过n个不同大小卷积核的多滤波器残差卷积神经网络提取词向量特征之后,输出n个隐藏特征矩阵,在模型中加入重新校准聚合模块对数据集进行降噪处理,重新校准聚合模块RAM接受多滤波器残差卷积神经网络的输出作为输入,该模块重新校准提取到的文本特征,聚合原始文本特征和重新校准的特征,最终将新的表示与原始表示结合起来; 所述步骤S2中,所述RAM的计算过程如下: 首先,多滤波器残差卷积神经网络所提取的隐藏表示Y通过两次下采样操作可以得到矩阵A和A',隐藏表示Y通过下采样转化为A的过程表示为: 其中,表示位错相加,即第二个矩阵在第一个矩阵位置的基础上向右移动一个单位,重复这个操作,直到最后一个矩阵,并切断连接矩阵两侧的单位向量,对重叠区域进行了总结,与表示由隐藏矩阵Y进行下采样操作输出A矩阵时上的两个卷积核组,在矩阵A通过下采样操作生成矩阵A′时,操作的具体过程也如3-5所类似,但是相应的卷积核组的维度发生了变化,由原来的与转变为与然后,使用另一对卷积核组与将矩阵A′转化为横向特征矩阵L;然后,使用上采样操作对矩阵L进行恢复,此时矩阵L的形状与矩阵A的形状一致,进行矩阵相加操作,将新提取到的矩阵信息与原有的矩阵进行结合,以达到重新校准聚合的目的,消除电子病历文本中的噪声信息,在本次上采样的操作中使用的反卷积核组为与由此操作,将矩阵A和将L矩阵进行上采样操作之后的输出相加,得到B矩阵,具体计算过程如3-6所示, 然后,聚合矩阵B通过上采样操作生成权重矩阵O; 聚合矩阵B经由反卷积核组进行反卷积操作得到矩阵T',矩阵T′经过位错相加的操作得到中间表示T,计算过程如3-7所示, 对中间表示T进行反卷积操作得到O′,其中反卷积核组为然后对O′进行位错相加操作即可得到权重矩阵O,过程如3-8所示, 最终,将权重矩阵O与初始多滤波器残差卷积神经网络输出的特征矩阵Y进行矩阵点积操作,即可得到重新校准的特征矩阵Y′,计算过程如3-9所示, Y′=tanhO⊙Y3-9; S3、加入MLP层来提加深模型的深度,使用注意力机制进一步对特征矩阵进行处理; S4、将结果输入至前馈神经网络后,使用sigmoid函数进行分类,预测各标签的概率。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人大连民族大学,其通讯地址为:116600 辽宁省大连市经济技术开发区辽河西路18号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。