买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉重庆邮电大学申请的专利基于RNN与稀疏自注意力机制的长文档摘要生成方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116049384B 。

龙图腾网通过国家知识产权局官网在2026-03-17发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202310174928.0，技术领域涉及：G06F16/34；该发明授权基于RNN与稀疏自注意力机制的长文档摘要生成方法是由唐宏;刘钟;杨浩澜;王宁喆;朱传润设计研发完成，并于2023-02-28向国家知识产权局提交的专利申请。

本基于RNN与稀疏自注意力机制的长文档摘要生成方法在说明书摘要公布了：本发明涉及自然语言处理、深度学习、文本摘要生成领域，特别涉及一种基于RNN与稀疏自注意力机制的长文档摘要生成方法，包括将文本数据进行数据切段或者padding的方式将数据填充到固定长度L，分别对L长度的片段进行词嵌入转换为词向量表示；将词向量片段作为编码器的输入，编码器编码得到词向量片段对应的上下文表示；解码阶段将词向量表示以及对应的上下文表示输入解码器得到最终的隐藏特征；隐藏特征经过一层Softmax层得到预测输出；本发明有效地利用层次框架模型对文本摘要相关因素进行建模，从而提升了模型生成摘要的可读性、相关性与准确性。

本发明授权基于RNN与稀疏自注意力机制的长文档摘要生成方法在权利要求书中公布了：1.基于RNN与稀疏自注意力机制的长文档摘要生成方法，其特征在于，构建基于RNN与稀疏自注意力机制的预测模型，该模型预测具体包括以下步骤： S1、将文本数据进行数据切段或者padding的方式将数据填充到固定长度L，分别对L长度的片段进行词嵌入转换为词向量表示； S2、将词向量片段作为编码器的输入，编码器编码得到词向量片段对应的上下文表示；在编码过程中，编码器包括N层级联结构，每一层包括级联的局部递归神经网络、多头稀疏自注意力以及前馈网络，词向量片段为多头稀疏自注意力的输出，在N层级联结构中，当前层的输出缓存前一个片段的隐藏状态后进行注意力蒸馏后在作为下一层的输入；多头稀疏自注意力对局部递归神经网络输出的处理包括以下步骤： 101、利用局部递归神经网络的输出构建注意力机制中的查询向量、键向量以及值向量； 102、利用稀疏性度量筛选出u个重要的查询向量； 103、将u个重要的查询向量与值向量进行关注，并与L-u个平均值向量进行拼接后计算自注意力； 104、利用多头的稀疏注意力机制计算多头注意力，经过FFN层，得到隐藏状态表示； S3、解码阶段将词向量表示以及对应的上下文表示输入解码器得到最终的隐藏特征； S4、隐藏特征经过一层Softmax层得到预测输出。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人重庆邮电大学，其通讯地址为：400065 重庆市南岸区南山街道崇文路2号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。