中国航空工业集团公司西安航空计算技术研究所刘晖获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中国航空工业集团公司西安航空计算技术研究所申请的专利一种基于算子调用的模型推理算子融合优化方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119847731B 。
龙图腾网通过国家知识产权局官网在2025-10-21发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411810283.6,技术领域涉及:G06F9/50;该发明授权一种基于算子调用的模型推理算子融合优化方法及系统是由刘晖;王琳博;白林亭;文鹏程;马秀;曹兴钰设计研发完成,并于2024-12-10向国家知识产权局提交的专利申请。
本一种基于算子调用的模型推理算子融合优化方法及系统在说明书摘要公布了:本发明涉及计算机人工智能技术领域,公开了一种基于算子调用的模型推理算子融合优化方法及系统,通过对模型文件中算子进行分析,按照算子对模型推理性能的影响程度进行排序,依次对模型文件中的算子进行融合优化处理,并验证其优化效果,进而实现整个模型推理过程的优化,降低了平台的数据传输延迟、提高了数据访存速度、提升了场景应用性能。
本发明授权一种基于算子调用的模型推理算子融合优化方法及系统在权利要求书中公布了:1.一种基于算子调用的模型推理算子融合优化方法,其特征在于,包括: 步骤1、分析输入平台的推理模型的模型文件,梳理所述模型文件中涉及的算子、算子之间的数据传输及算子之间的依赖关系;在平台上对模型文件进行预处理,梳理每个算子在平台的运算性能及调用频率; 步骤2、根据每个所述算子在平台上的调用频率及算子运算性能,分析获得每个所述算子对模型推理性能的影响程度,将模型文件的所有算子按照对模型文件的影响程度进行排序; 步骤3、根据所述平台已实现的算子库,以及平台上的片上存储资源、输入数据维度、计算资源并行度,对算子融合方式进行评估,按照所述排序顺序依次判断当前算子能否融合形成新算子;若当前算子能形成新算子,则测试新算子的性能,若新算子和所述当前算子比较有性能提升,则将新算子进行标记并加入平台的算子库中,在模型推理阶段调用新算子来代替之前的算子执行运算; 若不能融合为新算子或新算子性能没有提升,且当前算子不是最后一个算子,则按照步骤3执行当前算子的下一算子,直至最后一个算子完成判断或融合。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国航空工业集团公司西安航空计算技术研究所,其通讯地址为:710065 陕西省西安市高新区锦业二路15号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励