买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉复旦大学申请的专利面向多标签文本分类的知识增强型文档-标签注意力方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN118467725B 。

龙图腾网通过国家知识产权局官网在2026-03-06发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202310090342.6，技术领域涉及：G06F16/35；该发明授权面向多标签文本分类的知识增强型文档-标签注意力方法是由陈昱妍;肖仰华;李直旭设计研发完成，并于2023-02-09向国家知识产权局提交的专利申请。

本面向多标签文本分类的知识增强型文档-标签注意力方法在说明书摘要公布了：本发明提供一种面向多标签文本分类的知识增强型文档‑标签注意力方法，首先创新性地挖掘并选择多标签文档的外部知识，以丰富文档内容，并将文档与知识联合进行编码和训练，提高文档和知识之间潜在语义的交互性。同时还对构建的标签集进行嵌入，从而捕获每个文档对应标签集之间的上下文关系。之后，基于文档‑知识‑标签的全局注意力机制，即为文档‑标签对和知识‑标签对采用加权注意力机制来融合文档、知识和标签之间的全局信息，分配权重以获得依赖和独立的标签表示，从而捕获文档、知识分别与标签集之间的交互特征。最后基于文档、知识和标签的全局表示来预测每个文档的所有标签。该方法解决了多标签文本分类中文档不丰富和标签依赖性的问题。

本发明授权面向多标签文本分类的知识增强型文档-标签注意力方法在权利要求书中公布了：1.一种面向多标签文本分类的知识增强型文档-标签注意力方法，其特征在于，包括以下步骤： 步骤S1，检索文档相关的外部知识，基于检索获取的知识丰富所述文档的信息； 步骤S2，分别对所述文档和所述知识进行嵌入，从而获取所述文档的文档嵌入与所述知识的知识嵌入，所述嵌入即上下文表示； 其中，所述嵌入为：采用预训练语言模型分别对所述文档和所述知识进行嵌入，嵌入过程表示如下： 式中，D表示输入的文档数据集，K表示检索得到的知识数据集； 步骤S3，将所述文档嵌入和所述知识嵌入编码为统一的长度，从而得到统一长度的文档表示与知识表示； 其中，所述编码为：采用双向LSTM对所述文档嵌入和所述知识嵌入进行编码，并输出维度为2H的向量，表示如下： 式中，和为统一长度的文档表示和知识表示，其中和表示输入文档和知识的长度；t为时间步，ht表示t时间步的隐藏状态向量，T为完整训练周期的总时间步； 步骤S4，构建所述文档的标签集，并将所述标签集转换为嵌入向量，以捕获每个文档对应标签集之间的上下文关系； 其中，在所述步骤S4中，采用GloVe算法将所述标签集转换为嵌入向量，表示如下： ， 式中，表示文档的标签集，M表示标签总数； 步骤S5，采用文档-知识-标签的全局注意力机制融合文档知识表示、所述知识表示以及所述标签之间的全局信息，得到文档-知识-标签的全局表示； 其中，所述步骤S5包括以下子步骤： 步骤S5-1，将自注意力机制应用于文档和知识，以获取文档注意力表示和知识注意力表示； 步骤S5-2，基于步骤S5-1得到的两个注意力表示，获取对应的独立文档权重和独立知识权重，分别表示文档在文档-标签对中的贡献和知识在知识-标签对中的贡献，过程表示如下： ， ， ； 步骤S5-3，对所述文档-标签对使用文档-标签注意力机制以获取基于文档的标签注意力表示，并对所述知识-标签对使用知识-标签注意力机制以获取基于知识的标签注意力表示，过程表示如下： ； 步骤S5-4，为所述文档-标签对和所述知识-标签对分别分配权重因子和，以获得基于多注意力的标签表示及其独立标签权重，其过程如下： 其中，； 步骤S5-5，通过乘以依赖性标签权重λ来计算最终文档-知识-标签的全局表示SA，其过程如下： 其中，是可训练的参数，是sigmoid激活函数； 步骤S6，基于所述全局表示预测所述文档对应的标签集。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人复旦大学，其通讯地址为：200433 上海市杨浦区邯郸路220号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。