上海东方算芯科技有限公司殷洪辉获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉上海东方算芯科技有限公司申请的专利芯片中的注意力机制的运算方法、芯片、电子设备、存储介质及程序产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121277563B 。
龙图腾网通过国家知识产权局官网在2026-03-20发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511842249.1,技术领域涉及:G06F9/30;该发明授权芯片中的注意力机制的运算方法、芯片、电子设备、存储介质及程序产品是由殷洪辉设计研发完成,并于2025-12-08向国家知识产权局提交的专利申请。
本芯片中的注意力机制的运算方法、芯片、电子设备、存储介质及程序产品在说明书摘要公布了:本申请提供了一种芯片中的注意力机制的运算方法、芯片、电子设备、存储介质及程序产品;在注意力模型训练的前向阶段,基于第一指令流水,在计算引擎的各个线程中对查询矩阵、键矩阵和值矩阵进行前向计算得到前向输出矩阵,算法实现中,矩阵乘法由第一、三线程调用矩阵乘法单元执行,向量计算由第二线程调用向量计算单元处理;在反向阶段,基于第二指令流水在各个线程中对查询矩阵、键矩阵、值矩阵和输出梯度矩阵进行反向计算得到目标梯度矩阵;在第一线程和第三线程中调用矩阵乘法单元执行矩阵乘法,在第二线程中调用向量计算单元执行向量计算,在空闲的第一线程或第三线程中调用数据搬运单元获取各个矩阵。通过本申请能够提高芯片运算性能。
本发明授权芯片中的注意力机制的运算方法、芯片、电子设备、存储介质及程序产品在权利要求书中公布了:1.一种芯片中的注意力机制的运算方法,其特征在于,所述芯片包括多个计算引擎,每个所述计算引擎包括数据搬运单元、矩阵乘法单元和向量计算单元,所述方法包括: 在注意力模型训练的前向传播阶段,基于预设的第一指令流水,在所述计算引擎的第一线程、第二线程和第三线程中,对查询矩阵、键矩阵和值矩阵进行前向计算,得到前向输出矩阵,其中,在所述第一线程和所述第三线程中调用所述矩阵乘法单元执行所述前向计算中的矩阵乘法,在所述第二线程中调用所述向量计算单元执行所述前向计算中的向量计算,所述第一线程中所述查询矩阵与所述键矩阵的矩阵乘法,与所述第三线程调用所述数据搬运单元获取所述值矩阵并行执行; 在反向传播阶段,基于预设的第二指令流水,在所述第一线程、所述第二线程和所述第三线程中,对所述查询矩阵、所述键矩阵、所述值矩阵和输出梯度矩阵进行反向计算,得到目标梯度矩阵;其中,在所述第一线程和所述第三线程中调用所述矩阵乘法单元执行所述反向计算中的矩阵乘法,在所述第二线程中调用所述向量计算单元执行所述反向计算中的向量计算,在处于空闲状态的所述第一线程或所述第三线程中调用所述数据搬运单元获取所述查询矩阵、所述键矩阵、所述值矩阵和所述输出梯度矩阵。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人上海东方算芯科技有限公司,其通讯地址为:201210 上海市浦东新区集创路52号、集电路245号3幢801室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励