买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉安徽农业大学申请的专利一种基于全向注意力机制的翻译方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119129611B 。

龙图腾网通过国家知识产权局官网在2025-07-11发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411264320.8，技术领域涉及：G06F40/40；该发明授权一种基于全向注意力机制的翻译方法是由王超;洪伟杰;夏伦龙;何进;蒋婷婷;辜丽川设计研发完成，并于2024-09-10向国家知识产权局提交的专利申请。

本一种基于全向注意力机制的翻译方法在说明书摘要公布了：本发明公开了一种基于全向注意力机制的翻译方法，涉及自然语言处理的技术领域，包括，收集和处理平行语料数据，通过知识蒸馏生成蒸馏数据集，利用蒸馏数据集训练自回归翻译模型并解决多模式问题，将自回归模型转换为非自回归模型并进行训练直至收敛，本发明通过引入全向注意力机制和课程学习策略，有效的解决了非自回归翻译模型中出现的多模式问题，显著提升了翻译质量和训练效率，从而实现了更准确的翻译输出效果。

本发明授权一种基于全向注意力机制的翻译方法在权利要求书中公布了：1.一种基于全向注意力机制的翻译方法，其特征在于：包括， 收集平行语料数据并进行处理； 使用处理后的平行语料数据与非自回归翻译模型参数规模相当的自回归翻译模型作为教师模型进行知识蒸馏，生成蒸馏数据集； 利用蒸馏数据集训练非自回归翻译模型作为学生模型，找出存在的多模式问题； 根据存在的多模式问题，对非自回归翻译模型的学生模型引入一个全向注意力推理模块，使字符序列生成时能够观察到所有位置的信息； 通过课程学习策略逐步调整教师模型对学生模型的指导方式，帮助学生模型学习教师模型的知识，完成从自回归翻译模型的教师模型到非自回归翻译模型的学生模型的转换，具体包括以下步骤， 开始转换时，自回归翻译模型的教师模型生成目标语言的信息和知识蒸馏时生成的字符序列的目标语言的信息保持一致； 在每个使用教师模型进行转换训练阶段，计算替代率来评估非自回归翻译模型的学生模型的性能，替代率是指在训练学生模型时，使用教师模型的输出来替代学生模型自己生成的输出的比例，具体数值介于0和1之间，来控制学生模型在训练过程中依赖教师模型的程度，当替代率为1时，表示学生模型完全依赖教师模型的输出；当替代率为0时，表示学生模型完全独立生成输出； 完成从自回归翻译模型的教师模型到非自回归翻译模型的学生模型的转换后，使用蒸馏数据集训练非自回归翻译模型的学生模型直至收敛； 对非自回归翻译模型的学生模型进行评估与优化； 其中，利用蒸馏数据集训练非自回归翻译模型作为学生模型，找出存在的多模式问题，包括以下步骤， 生成蒸馏数据集后，根据生成的蒸馏数据集来训练学生模型，同时学习原始训练数据的硬标签，从而找到多模式问题； 根据多模式问题来定义一个综合损失函数，一部分是学生模型对原始标签的预测误差，另一部分是学生模型的输出与教师模型的软标签之间的差距，学生模型的综合损失函数的表达式为： ； 其中，表示综合损失函数，表示原始训练数据集上的损失项，和分别表示平衡不同损失项的影响的和的权重系数，表示蒸馏数据集上的损失项，表示从自回归翻译模型到非自回归翻译模型转换期间的损失项。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人安徽农业大学，其通讯地址为：230036 安徽省合肥市长江西路130号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。