买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉西北工业大学申请的专利一种基于任务模式感知的多头注意力量化方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120525004B 。

龙图腾网通过国家知识产权局官网在2025-11-18发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511028139.1，技术领域涉及：G06N3/0495；该发明授权一种基于任务模式感知的多头注意力量化方法是由张盛兵;王思佳;张萌;张伦设计研发完成，并于2025-07-25向国家知识产权局提交的专利申请。

本一种基于任务模式感知的多头注意力量化方法在说明书摘要公布了：本发明涉及深度学习技术领域，公开了一种基于任务模式感知的多头注意力量化方法。该方法包括：针对每种类型的模型任务，获取在采用多头注意力机制处理模型任务的输入数据时，多头注意力机制中每个注意力头的注意力权重矩阵；根据注意力权重矩阵中所有注意力权重的大值分布情况，对模型任务的每个注意力头进行模式识别；其中，注意力权重的大值分布情况用于指示输入数据中所有令牌的注意力分布情况；根据模型任务的每个注意力头的模式识别结果，在采用多头注意力机制处理模型任务的输入数据时进行量化处理，从而提升面向多头注意力机制的任务处理效率和处理效果。

本发明授权一种基于任务模式感知的多头注意力量化方法在权利要求书中公布了：1.一种基于任务模式感知的多头注意力量化方法，其特征在于，包括： 针对每种类型的模型任务，获取在采用多头注意力机制处理模型任务的输入数据时，多头注意力机制中每个注意力头的注意力权重矩阵； 根据注意力权重矩阵中所有注意力权重的大值分布情况，对模型任务的每个注意力头进行模式识别；其中，大值分布情况用于指示输入数据中所有令牌的注意力分布情况，大值分布情况中的大值为对注意力权重矩阵中所有值按从大到小的顺序排序后位于注意力权重矩阵前预设百分比的值； 若输入数据中所有令牌的注意力集中在至少一个令牌上，则判定注意力头的模式为全局注意力模式；若输入数据中每个令牌的注意力在前一个令牌或下一个令牌上，则判定注意力头的模式为位置注意力模式；若输入数据中每个令牌的注意力在令牌本身、在与令牌相同的令牌上或在与令牌相关的令牌上，则判定注意力头的模式为扩展注意力模式；若输入数据中所有令牌的注意力均匀分布在输入数据的各个令牌上，则判定注意力头的模式为均匀模式； 根据目标模型任务的类型，确定目标模型任务的每个注意力头的模式，并在采用多头注意力机制处理目标模型任务的目标输入数据时，根据目标模型任务的每个注意力头的模式，对目标输入数据进行以下量化处理： 若注意力头的模式为全局注意力模式或均匀模式，则对所有目标输入数据进行第一精度计算；若注意力头的模式为位置注意力模式或扩展注意力模式，则对处于注意力权重矩阵中大值所在位置的目标输入数据进行第二精度计算，其余位置进行第一精度计算；其中，目标输入数据为用于句子对之间语义相似性评估模型任务的MRPC数据集，第一精度小于第二精度； 所述根据注意力权重矩阵中所有注意力权重的大值分布情况，对模型任务的每个注意力头进行模式识别，包括： 对于每个注意力头，获取注意力头针对模型任务下多个输入数据分别对应的模式识别结果，并将出现频率最高的模式识别结果作为注意力头的目标模式识别结果。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人西北工业大学，其通讯地址为：710100 陕西省西安市长安区东大镇东祥路1号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。