中国科学院软件研究所姬晨晨获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中国科学院软件研究所申请的专利针对神经网络算子融合的端云协同推理方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115062784B 。
龙图腾网通过国家知识产权局官网在2025-08-19发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210666123.3,技术领域涉及:G06N5/04;该发明授权针对神经网络算子融合的端云协同推理方法及装置是由姬晨晨;于佳耕;侯朋朋;邰阳;苗玉霞;佟晓宇;张丽敏;全雨;武延军设计研发完成,并于2022-06-13向国家知识产权局提交的专利申请。
本针对神经网络算子融合的端云协同推理方法及装置在说明书摘要公布了:本发明公开一种针对神经网络算子融合的端云协同推理方法及装置,所述方法包括将神经网络转换为有向无环图;将所述有向无环图切分为若干链式结构;对每一链式结构中的所述网络层进行融合操作,并使用得到的融合块替代被融合的网络层;依据待推理数据,预测每一融合块与每一未融合网络层的推理时间与输出数据大小,并根据所述输出数据大小与端云之间的网络带宽,计算中间数据传输时间;基于所述推理时间与所述中间数据传输时间,切分所述神经网络,并基于切分结果进行端云协同推理。本发明解决了具有可融合算子的网络模型的最小时延问题。
本发明授权针对神经网络算子融合的端云协同推理方法及装置在权利要求书中公布了:1.一种针对神经网络算子融合的端云协同推理方法,包括以下步骤: 将神经网络转换为有向无环图,其中,所述有向无环图中的节点表示所述神经网络的网络层,所述有向无环图中的节点连线边表示所述神经网络的网络层之间的数据传输; 将所述有向无环图切分为若干链式结构; 对每一链式结构中的所述网络层进行融合操作,并使用得到的融合块替代被融合的网络层;其中,所述对每一链式结构中的所述网络层进行融合操作,并使用得到的融合块替代被融合的网络层,包括: 获取融合块规则,所述融合块规则包括: 卷积层与批归一化层进行融合; 卷积层、批归一化层与激活函数层进行融合; 卷积层、批归一化层、激活函数层与池化层进行融合; 批归一化层与激活函数层进行融合; 批归一化层、激活函数层与池化层进行融合; 激活函数层与池化层进行融合; 基于所述融合块规则,对所述网络层进行融合; 使用得到的融合块替代被融合的网络层; 依据待推理数据,预测每一融合块与每一未融合网络层的推理时间与输出数据大小,并根据所述输出数据大小与端云之间的网络带宽,计算中间数据传输时间; 基于所述推理时间与所述中间数据传输时间,切分所述神经网络,并基于切分结果进行端云协同推理。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国科学院软件研究所,其通讯地址为:100190 北京市海淀区中关村南四街4号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。