买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉苏州元脑智能科技有限公司申请的专利推理任务处理方法、装置、电子设备及存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120560867B 。

龙图腾网通过国家知识产权局官网在2025-09-30发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511064421.5，技术领域涉及：G06F9/50；该发明授权推理任务处理方法、装置、电子设备及存储介质是由侯鹏宇;赵谦谦;王彦伟;李仁刚设计研发完成，并于2025-07-31向国家知识产权局提交的专利申请。

本推理任务处理方法、装置、电子设备及存储介质在说明书摘要公布了：本申请公开了一种推理任务处理方法、装置、电子设备及存储介质，涉及人工智能技术领域，包括基于待处理推理任务之间的依赖关系，确定待处理推理任务的处理顺序，进而确定当前待处理推理任务；基于当前待处理推理任务所需的数据的存储信息，确定待筛选硬件加速器；基于待筛选硬件加速器的性能指标信息，确定目标硬件加速器，以生成目标指令；将目标指令下发至目标硬件加速器，以使目标硬件加速器处理当前待处理推理任务。通过基于当前待处理推理任务所需的数据的存储信息和待筛选硬件加速器的性能指标信息，确定目标硬件加速器，解决了相关技术降低了硬件加速器的性能的技术问题，达到了提高硬件加速器的性能的技术效果。

本发明授权推理任务处理方法、装置、电子设备及存储介质在权利要求书中公布了：1.一种推理任务处理方法，其特征在于，所述方法包括： 接收多个待处理推理任务； 基于所述待处理推理任务之间的依赖关系，确定所述待处理推理任务的处理顺序； 基于所述待处理推理任务的处理顺序，确定当前待处理推理任务； 基于当前待处理推理任务所需的数据的存储信息，从多个硬件加速器中确定出待筛选硬件加速器； 获取所述待筛选硬件加速器的性能指标信息，并基于所述待筛选硬件加速器的性能指标信息，确定执行所述当前待处理推理任务的目标硬件加速器； 基于所述目标硬件加速器和所述当前待处理推理任务，生成目标指令； 将所述目标指令下发至所述目标硬件加速器，以使所述目标硬件加速器处理所述当前待处理推理任务； 所述基于当前待处理推理任务所需的数据的存储信息，从多个硬件加速器中确定出待筛选硬件加速器，包括： 若当前待处理推理任务所需的数据的存储信息表征当前待处理推理任务所需的数据位于第一硬件加速器，则确定第一硬件加速器为所述待筛选硬件加速器； 所述基于所述待筛选硬件加速器的性能指标信息，确定执行所述当前待处理推理任务的目标硬件加速器，包括： 在所述待筛选硬件加速器的数量为一个的情况下，若所述待筛选硬件加速器的性能指标信息表征所述待筛选硬件加速器的性能达到预设性能阈值，则获取多个硬件加速器中除了所述待筛选硬件加速器之外的其它硬件加速器的性能指标信息，基于所述其它硬件加速器的性能指标信息，确定执行所述当前待处理推理任务的目标硬件加速器； 所述性能指标信息包括内存剩余量和算力饱和度，所述基于所述其它硬件加速器的性能指标信息，确定执行所述当前待处理推理任务的目标硬件加速器，包括： 基于当前待处理推理任务所需的数据，确定所述待筛选硬件加速器将所述当前待处理推理任务所需的数据传输至所述其它硬件加速器中的每个硬件加速器所需的数据传输时间； 基于所述待筛选硬件加速器将所述当前待处理推理任务所需的数据传输至所述其它硬件加速器中的每个硬件加速器所需的数据传输时间，按照所需的数据传输时间从多到少的顺序对所述其它硬件加速器进行排序，获得所述其它硬件加速器中每个硬件加速器的第四排序结果； 基于所述其它硬件加速器的内存剩余量和算力饱和度，对所述其它硬件加速器进行排序，获得所述其它硬件加速器中每个硬件加速器的第五排序结果； 基于所述其它硬件加速器中每个硬件加速器的第四排序结果和所述其它硬件加速器中每个硬件加速器的第五排序结果，确定所述其它硬件加速器中每个硬件加速器的第六排序结果； 基于所述其它硬件加速器中每个硬件加速器的第六排序结果，确定第六排序结果为排序序号最大的硬件加速器为执行所述当前待处理推理任务的目标硬件加速器。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人苏州元脑智能科技有限公司，其通讯地址为：215000 江苏省苏州市吴中经济开发区综保区经一路1号8幢；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。