买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉上海壁仞科技股份有限公司申请的专利注意力计算实现方法、装置、介质、设备及产品获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121072598B 。

龙图腾网通过国家知识产权局官网在2026-01-30发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511596835.2，技术领域涉及：G06N3/045；该发明授权注意力计算实现方法、装置、介质、设备及产品是由请求不公布姓名;请求不公布姓名设计研发完成，并于2025-11-04向国家知识产权局提交的专利申请。

本注意力计算实现方法、装置、介质、设备及产品在说明书摘要公布了：本发明公开了一种注意力计算实现方法、装置、介质、设备及产品，所述方法包括：基于第一浮点格式的查询分块与第j个键分块，获得以交错布局的第二浮点格式存储于第二寄存器组的第j个注意力分数分块；通过逐元素指数化操作，将注意力分数分块转为对应的指数化分数分块；遍历所有键分块，依次执行注意力融合计算，得到交错布局的第三浮点格式的注意力输出分块；其中，指数化分数分块是通过第三寄存器组转换为第一浮点格式的，以参与值分块的计算；依次复用第二寄存器组和第三寄存器组，将注意力输出分块截断至第一浮点格式的精度范围后，写入共享内存并调整为连续布局。本发明能够实现计算精度与性能的平衡，有效地提升格式转换效率。

本发明授权注意力计算实现方法、装置、介质、设备及产品在权利要求书中公布了：1.一种注意力计算实现方法，其特征在于，由消费者线程组执行，所述方法包括： 将第一浮点格式的查询分块、键分块及值分块分批次缓存至共享内存，并将当前待计算的查询分块从共享内存加载至第一寄存器组； 通过矩阵乘加指令，对加载得到的查询分块与第j个键分块进行计算，获得第j个注意力分数分块；其中，1≤j≤MK；MK为键矩阵的分块数量；每个注意力分数分块以交错布局的第二浮点格式依次存储于第二寄存器组中； 通过指数运算指令和对应的累计最大值张量，将第j个注意力分数分块中各注意力分数值逐一转换为第三浮点格式的指数化分数值并写回第二寄存器组，形成第j个交错布局的第二浮点格式的指数化分数分块； 遍历MK个键分块，依次将获得的注意力分数分块、对应的指数化分数分块，与对应的值分块执行注意力融合计算，得到交错布局的第三浮点格式的注意力输出分块；其中，指数化分数分块是通过写入第一浮点格式的第三寄存器组进行格式转换的，以参与值分块的计算；注意力融合计算的中间结果为第三浮点格式； 依次复用第二寄存器组和第三寄存器组，将注意力输出分块从第三浮点格式截断至第一浮点格式的精度范围后，写入共享内存并进行布局调整，以在共享内存中形成连续布局的第一浮点格式的注意力输出分块。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海壁仞科技股份有限公司，其通讯地址为：201114 上海市闵行区陈行公路2388号16幢13层1302室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。