Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 山西大学杨陟卓获国家专利权

山西大学杨陟卓获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉山西大学申请的专利一种基于交叉注意对齐和多语言互注意的跨语言摘要方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119336903B

龙图腾网通过国家知识产权局官网在2025-11-18发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411446921.0,技术领域涉及:G06F16/34;该发明授权一种基于交叉注意对齐和多语言互注意的跨语言摘要方法是由杨陟卓;昝雅丽;李茹;谭红叶设计研发完成,并于2024-10-16向国家知识产权局提交的专利申请。

一种基于交叉注意对齐和多语言互注意的跨语言摘要方法在说明书摘要公布了:本发明属于自然语言处理技术领域,具体涉及一种基于交叉注意对齐和多语言互注意的跨语言摘要方法。为提升跨语言摘要的性能,本发明采用基于多任务学习的端到端神经网络模型对文本进行跨语言摘要,包括以下步骤:从互联网的数据集网站中爬取单语摘要数据集的原文本和摘要,并通过往返翻译策略和语篇蕴含策略对数据进行处理,构建跨语言摘要数据集;对数据集中的源文本和摘要进行分词,获取词嵌入向量表示,进行编码和初步解码;利用交叉注意对齐机制,优化跨语言摘要的注意力分布;利用多语言互注意机制,优化双语隐藏状态表示;训练跨语言摘要模型并生成跨语言摘要。

本发明授权一种基于交叉注意对齐和多语言互注意的跨语言摘要方法在权利要求书中公布了:1.一种基于交叉注意对齐和多语言互注意的跨语言摘要方法,其特征在于,包括以下步骤: 步骤1,获取单语摘要数据集的原文本和摘要,并对数据进行处理,构建跨语言摘要数据集; 步骤2,将跨语言摘要数据集中的数据输入已训练好的多任务跨语言摘要模型并生成跨语言摘要,所述多任务跨语言摘要模型包括:2.1对跨语言摘要数据集中的源语言文档、源语言摘要和目标语言摘要进行分词,获取词嵌入向量表示,进行编码和初步解码;2.2利用交叉注意对齐机制,优化跨语言摘要的注意力分布;2.3利用多语言互注意机制,优化双语隐藏状态表示; 所述利用交叉注意对齐机制,优化跨语言摘要的注意力分布,具体为:2.2.1通过交叉注意机制,分别计算跨语言摘要和单语言摘要对源文本的注意力分布;2.2.2通过交叉注意对齐机制,优化跨语言摘要的注意力分布:使用同语言摘要编码器解码器之间的交叉注意引导跨语言摘要的交叉注意,如式5所示: 5 其中,是源语言摘要解码器对源语言文本的隐藏状态的注意力分布,即单语言摘要的注意力分布,是目标语言摘要解码器对源语言文本的隐藏状态的注意力分布,即跨语言摘要的注意力分布; 所述利用多语言互注意机制,优化双语隐藏状态表示,具体为: 2.3.1利用多语言互注意机制,优化双语隐藏状态表示:在目标语言摘要解码器的第p时间步,把目标语言解码器的隐藏状态作为查询向量Q,计算和源语言解码器的最后p个隐藏状态{,,...,}之间的相关性,通过多语言互注意模块对这p个隐藏状态进行加权求和,得到目标语言解码器隐藏状态对源语言解码器隐藏状态的上下文注意结果表示,如式6所示: 6 其中,是指目标语言摘要解码器在第p时间步的隐藏状态,是指源语言摘要解码器在前p时间步的所有隐藏状态; 同样地,在源语言摘要解码器的第p时间步,把源语言解码器的隐藏状态作为查询向量Q,计算和目标语言解码器的最后p个隐藏状态{,,...,}之间的相关性,通过多语言互注意模块对这p个隐藏状态进行加权求和,得到源语言解码器隐藏状态对目标语言解码器隐藏状态的上下文注意结果表示,如式7所示: 7 其中,是指源语言摘要解码器在第p时间步的隐藏状态,是指目标语言摘要解码器在前p时间步的所有隐藏状态; 2.3.2利用生成的上下文注意结果表示和生成的目标语言解码器隐藏状态对源语言解码器隐藏状态的上下文注意结果表示产生摘要:在时间p步,跨语言摘要的下一个单词的概率计算如式8所示: 8 其中,函数F包括融合拼接后的和信息的MLP层、得到中间向量表示的前馈层、学习中间向量的复杂模式和特征的线性层和预测单词概率分布的softmax层。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人山西大学,其通讯地址为:030006 山西省太原市坞城路92号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。