买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉上海交通大学;上海期智研究院申请的专利向量量化大语言模型的算子融合机制分配方法与系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119668894B 。

龙图腾网通过国家知识产权局官网在2025-10-10发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411635336.5，技术领域涉及：G06F9/54；该发明授权向量量化大语言模型的算子融合机制分配方法与系统是由冷静文;黄佳薇;刘子汉;过敏意设计研发完成，并于2024-11-15向国家知识产权局提交的专利申请。

本向量量化大语言模型的算子融合机制分配方法与系统在说明书摘要公布了：本发明提供一种向量量化大语言模型的算子融合机制分配方法与系统，所述方法包括以下步骤：获取布局数据，其中，布局数据包括解量化数据布局以及计算内核所需布局；基于布局数据计算得到数据混洗次数，并基于数据混洗次数与预设阈值进行比较，以动态响应决策机制，当数据混洗次数小于预设阈值，则采用第一决策机制，第一决策机制至少包括寄存器级别算子融合机制；当数据混洗次数大于或者等于预设阈值，则采用第二决策机制，第二决策机制至少包括共享内存级别算子融合机制。本发明的向量量化大语言模型的算子融合机制分配方法与系统，解决了数据在共享内存和寄存器之间频繁传输导致的带宽瓶颈和延迟问题，从而实现了更高效的解量化与计算融合。

本发明授权向量量化大语言模型的算子融合机制分配方法与系统在权利要求书中公布了：1.一种向量量化大语言模型的算子融合机制分配方法，其特征在于，包括： 获取布局数据，其中，所述布局数据包括解量化数据布局以及计算内核所需布局，具体包括：基于向量量化中的子向量的大小得到所述解量化数据布局；基于当前计算算子的规格得到所述计算内核所需布局； 基于所述布局数据计算得到数据混洗次数，其中，所述基于所述布局数据计算得到数据混洗次数，具体包括：基于所述布局数据计算线程束的大小，其中，基于所述解量化数据布局与所述计算内核所需布局的比值得到所述线程束的大小；基于所述线程束的大小计算得到所述数据混洗次数，其中，基于所述线程束在数量上做减一计算得到所述数据混洗次数，并基于所述数据混洗次数与预设阈值进行比较，以动态响应决策机制，其中，当所述数据混洗次数小于所述预设阈值，则采用第一决策机制，所述第一决策机制至少包括寄存器级别算子融合机制； 当所述数据混洗次数大于或者等于所述预设阈值，则采用第二决策机制，所述第二决策机制至少包括共享内存级别算子融合机制。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海交通大学;上海期智研究院，其通讯地址为：200240 上海市闵行区东川路800号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。