买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉青岛科技大学申请的专利基于主题感知的分层多注意网络的文本分类方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114676254B 。

龙图腾网通过国家知识产权局官网在2025-12-12发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210301878.3，技术领域涉及：G06F16/35；该发明授权基于主题感知的分层多注意网络的文本分类方法及系统是由姜也;王宜敏设计研发完成，并于2022-03-25向国家知识产权局提交的专利申请。

本基于主题感知的分层多注意网络的文本分类方法及系统在说明书摘要公布了：本发明提供了一种基于主题感知的分层多注意网络的文本分类方法及系统，包括：获取待分类的文本信息；依据获取的文本信息，以及预设的文本分类模型，得到分类结果；其中，所述文本分类模型以分层结构的形式构建了多个注意机制，将句子级和文档级的输入分别转换为句子和文档编码器；本发明以自注意作为神经网络的主要构建块，不仅提高了对距离关系的建模能力，而且由于前馈结构，自注意网络的训练速度也更快；引入了层次神经结构，它将句子级和文档级的输入分别转换为句子和文档编码器，实现了最先进的分类精度。

本发明授权基于主题感知的分层多注意网络的文本分类方法及系统在权利要求书中公布了：1.基于主题感知的分层多注意网络的文本分类方法，其特征在于，包括： 获取待分类的文本信息； 依据获取的文本信息，以及预设的文本分类模型，得到分类结果； 其中，所述文本分类模型以分层结构的形式构建了多个注意机制，将句子级和文档级的输入分别转换为句子和文档编码器；首先，在所述文本分类模型的层次结构中将多头自注意力与卷积神经网络相结合；然后，通过交互学习文档编码器中自注意块前后的句子级表示；最后，通过组合由主题模型生成的主题分布丰富文档表示； 利用软注意顺序编码句子级和文档级表示的重要性； 通过计算上下文向量，通过Softmax得到归一化的注意权值，通过Softmax度量每个条目的重要性；最终的输出表示通过加权求和计算归一化权重； 然后利用文档编码器中的共同注意来扩展文档级表示；给定文档编码器se∈Rm×dk之前的句子表示和文档编码器ce∈Rm×dk之后的句子表示，共同注意交互地关注这两个句子表示； 使用Softmax计算两个句子表征的注意权值，通过两个句子特征的加权和计算共同注意的输出向量； 然后，将两个句子表征连接起来，并将其传递给文档编码器中的软注意；最后，将soft-attention的输出，以及文档-主题分布串联并馈送到最终的Softmax函数中； 在句级编码和文档编码中采用软注意力机制；通过计算上下文向量，通过Softmax得到归一化的注意权值，通过Softmax度量每个条目的重要性；最终的输出表示fsoft-attention可以通过加权求和计算归一化权重； 其中，Ws和bs分别权重和偏差，ce∈Rn×dk表示的输出多线程self-attention块，tanh为非线性函数，u代表隐藏状态的输入序列，Wcontext∈Rdk表示上下文向量，α为归一化权重，表示序列中每个条目的重要性，f为软注意的输出； 1 2 3 然后利用文档编码器中的共同注意来扩展文档级表示；具体来说，给定文档编码器se∈Rm×dk之前的句子表示和文档编码器ce∈Rm×dk之后的句子表示，共同注意交互地关注这两个句子表示； 首先计算式4中矩阵L∈Rdk×dk，然后将该矩阵作为一个特征来预测式5中的注意权重；使用Softmax计算两个句子表征的注意权值，通过式6和式7中的两个句子特征的加权和计算共同注意的输出向量； 4 5 6 7 其中，W∈Rdk×dk表示通过网络学习的权值矩阵，W、W∈Rp×dk、Whs和Whd∈R1×p为权值参数，p表示共同注意的隐藏大小，α，α∈R1×m为注意权值，s，c∈R1×dk是共同注意产生的两个句子表征；然后，将s与c连接起来，并将其传递给文档编码器中的软注意；最后，将soft-attention的输出de，以及文档-主题分布dt串联并馈送到最终的Softmax函数中。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人青岛科技大学，其通讯地址为：266042 山东省青岛市崂山区松岭路99号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。