买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网恭喜上海燧原科技股份有限公司申请的专利混合专家模型的算子优化方法、装置、设备、介质及程序获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119830976B 。

龙图腾网通过国家知识产权局官网在2025-06-27发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510308464.7，技术领域涉及：G06N3/063；该发明授权混合专家模型的算子优化方法、装置、设备、介质及程序是由姚建国;吴晨鹏;顾琦琪;石恒;张亚林设计研发完成，并于2025-03-17向国家知识产权局提交的专利申请。

本混合专家模型的算子优化方法、装置、设备、介质及程序在说明书摘要公布了：本发明实施例公开了一种混合专家模型的算子优化方法、装置、设备、介质及程序，其中，方法包括：采用数据分块的方式结合计算芯片的稀疏计算单元，生成适用于原始混合专家模型的稀疏算子；其中，所述稀疏算子的数量为多个；根据所述稀疏算子对所述原始混合专家模型的原始算子进行更新，得到目标混合专家模型。本发明实施例的技术方案能够实现对混合专家模型的算子优化，进而在混合专家模型的模型计算场景中充分发挥计算芯片中稀疏计算单元的硬件加速性能，进而大大优化稀疏矩阵乘法运算过程中的计算、带宽以及存储资源的开销。

本发明授权混合专家模型的算子优化方法、装置、设备、介质及程序在权利要求书中公布了：1.一种混合专家模型的算子优化方法，其特征在于，包括： 采用数据分块的方式结合计算芯片的稀疏计算单元，生成适用于原始混合专家模型的稀疏算子；其中，所述稀疏算子的数量为多个； 根据所述稀疏算子对所述原始混合专家模型的原始算子进行更新，得到目标混合专家模型； 其中，采用数据分块的方式结合计算芯片的稀疏计算单元，生成适用于原始混合专家模型的稀疏算子，包括： 根据稀疏矩阵乘法需求，在计算芯片的全局内存中定位与第一稀疏矩阵匹配的压缩矩阵集合和第二关联矩阵；其中，所述第二关联矩阵包括第二稀疏矩阵或所述第二稀疏矩阵对应的稠密矩阵； 其中，所述第一稀疏矩阵包含多个设定尺寸的压缩单元，每个所述压缩单元包含至少一个有效行和至少一个稀疏行，每个所述有效行包含至少一个结构化稀疏计算存储单元；各所述结构化稀疏计算存储单元均处于相同稀疏模式；压缩矩阵集合中包含用于存储第一稀疏矩阵中非0数据的压缩数据矩阵、用于存储第一稀疏矩阵中有效行在所属压缩单元中位置的索引矩阵，和用于存储非0数据在所属结构化稀疏计算存储单元中位置的元数据矩阵；稀疏行为全部数据均为0的矩阵行，稀疏模式为结构化稀疏计算存储单元中非0值数据占全部数据的比例； 将所述压缩矩阵集合和所述第二关联矩阵，以数据分块的形式从全局内存中逐级搬运至所述计算芯片的硬件寄存器中； 通过所述计算芯片的稀疏计算单元，根据硬件寄存器中分次加载的数据，逐步计算出所述第一稀疏矩阵和所述第二关联矩阵的乘法结果； 对所述第一稀疏矩阵和所述第二关联矩阵的乘法结果按照所述原始混合专家模型的对应的功能函数的处理逻辑进行处理，得到所述稀疏算子。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海燧原科技股份有限公司，其通讯地址为：201306 上海市浦东新区中国(上海)自由贸易试验区临港新片区业盛路188号A-522室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。