买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉中国科学院软件研究所申请的专利一种面向流水线分布式端云协同推理的深度学习模型划分方法和装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN115130649B 。

龙图腾网通过国家知识产权局官网在2025-06-27发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210368166.3，技术领域涉及：G06N3/0499；该发明授权一种面向流水线分布式端云协同推理的深度学习模型划分方法和装置是由姬晨晨;于佳耕;侯朋朋;邰阳;苗玉霞;佟晓宇;张丽敏;全雨;武延军设计研发完成，并于2022-04-08向国家知识产权局提交的专利申请。

本一种面向流水线分布式端云协同推理的深度学习模型划分方法和装置在说明书摘要公布了：本发明公开了一种面向流水线分布式端云协同推理的深度学习模型划分方法和装置。该方法是一种面向视频帧流推理的机器学习模型分割方法，整个推理过程分为边缘设备推理、数据传输、云端设备推理三个部分，能以流水线的形式在边缘侧与云端分布式执行推理过程。将机器学习中的深度神经网络模型，根据约束三部分延迟的方法找到最优分割点，把模型分割为两部分。本发明公开了模型分割的完整方案以及分割模型所使用的算法及原理，通过边缘设备与云端的协同，找到最优的模型分割方案，提高整个推理系统的吞吐率。

本发明授权一种面向流水线分布式端云协同推理的深度学习模型划分方法和装置在权利要求书中公布了：1.一种面向流水线分布式端云协同推理的深度学习模型划分方法，其特征在于，包括以下步骤： 1边缘设备获取自身以及云服务器的硬件环境，进行深度神经网络模型中各个层的时延的评估； 2边缘设备获取深度神经网络模型中每个层的输出数据大小，根据当前网络情况，计算每层输出数据的传输时间； 3边缘设备获取当前深度神经网络模型的划分点，计算该划分点下三个阶段的时间，分别是：端侧推理时间、数据传输时间、云端推理时间； 4遍历端侧推理时间、数据传输时间、云端推理时间的时间总和，约束总和最小得到划分策略； 5得到当前划分策略下三个阶段的占比最大值，与采样间隔进行比较，如果最大值小于等于采样间隔，则当前划分策略为最优划分策略，如果不满足此条件，进行步骤6； 6遍历所有划分点下三个阶段的最大值，约束其最大值最小，获得划分策略，得到当前划分策略下三个阶段的占比最大值，与采样间隔进行比较，如果最大值小于等于采样间隔，则当前划分策略为最优划分策略，如果不满足则调整采样率； 7边缘设备根据最优划分策略，计算深度神经网络分割点之前的所有推理子任务，并将推理的中间结果发送到云端；云端将从边缘设备发送的推理中间结果作为输入，根据神经网络分层，计算从分割点到最后一层之间的推理子任务；在视频帧流到来的同时，重复每个帧的推理任务，直到整个推理任务完成； 将端云协同推理过程根据模型划分点分为三个部分：端侧推理、中间数据传输、云端推理，这三个部分作为三个进程并行进行，即，视频帧的神经网络的第一部分推理的结果在被传输到云端时，同时在边缘设备上处理前一帧的神经网络的第二部分。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中国科学院软件研究所，其通讯地址为：100190 北京市海淀区中关村南四街4号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。