买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉浙江大学申请的专利一种基于流水线优化的异构边缘端多任务推理方法及装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119988041B 。

龙图腾网通过国家知识产权局官网在2025-08-05发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510470942.4，技术领域涉及：G06F9/50；该发明授权一种基于流水线优化的异构边缘端多任务推理方法及装置是由王聪;沈宇豪;顾超杰;舒元超设计研发完成，并于2025-04-15向国家知识产权局提交的专利申请。

本一种基于流水线优化的异构边缘端多任务推理方法及装置在说明书摘要公布了：本发明公开了一种基于流水线优化的异构边缘端多任务推理方法及装置，本发明基于流水线阶段划分，平衡计算负载，采用争用缓解优化的方法调整争用模型的执行顺序，并通过负载窃取的技术手段动态调整流水线阶段间工作负载和尾部空泡，最小化异构处理器空闲时间空泡，提升处理效率。本发明通过在异构处理器上设计流水线并行机制，结合模型分割、动态规划、局部搜索等优化策略，提升了对异构计算资源的使用率，包括CPU大核、CPU小核、OpenCLGPU等，从而实现了计算吞吐量的显著提升，完成了对终端侧计算资源的高效利用。

本发明授权一种基于流水线优化的异构边缘端多任务推理方法及装置在权利要求书中公布了：1.一种基于流水线优化的异构边缘端多任务推理方法，其特征在于，包括以下步骤： 步骤1，输入预处理及DNN请求定义：获取输入数据并进行预处理，根据任务需求选择若干个相应的深度神经网络模型； 步骤2，异构计算平台执行：将多个深度神经网络模型分别分配给对应的异构处理器执行推理，并用流水线阶段划分表示； 步骤3，水平模型分割：利用步骤2中的流水线阶段划分，对于深度神经网络模型中的每个请求，目标是找到划分策略，使得推理时延最小，在不同的流水线阶段平衡计算负载； 步骤4，争用缓解优化：根据步骤3所得每个深度神经网络模型的划分策略，建立资源竞争窗口，利用性能检测参数线性回归划分高低争用模型，通过调整高争用模型的执行顺序，避免在窗口内出现重复高争用模型；争用缓解优化的具体方法如下：首先定义一种量化争用强度的方法，利用有效的性能事件作为特征集，并引入正则化项构建回归模型以缓解过拟合，从而预测争用强度；基于争用强度将模型请求在时间上进行交错调度； 为实现模型在K个异构处理器上的流水线调度，需为每个模型定义争用窗口，基于预设争用强度阈值，在窗口内划分高争用模型与低争用模型，窗口内多个高争用切片索引之间的争用距离将导致时间重叠，需从低争用模型中重新定位低争用切片以消除争用；转化为线性分配问题LAP，并以最小化总移动成本为目标进行优化； 步骤5，流水线气泡最小化：利用步骤4所得的最终模型执行顺序，通过负载窃取的技术手段动态调整流水线阶段间工作负载和尾部空泡，最小化异构处理器空闲时间空泡Bubble，提升处理效率。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浙江大学，其通讯地址为：310058 浙江省杭州市西湖区余杭塘路866号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。