广东博成网络科技有限公司张磊获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉广东博成网络科技有限公司申请的专利一种应用于GPU算力调度的应用快速切换方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119149248B 。
龙图腾网通过国家知识产权局官网在2025-06-10发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411626843.2,技术领域涉及:G06F9/50;该发明授权一种应用于GPU算力调度的应用快速切换方法及系统是由张磊;王尧;张博云设计研发完成,并于2024-11-14向国家知识产权局提交的专利申请。
本一种应用于GPU算力调度的应用快速切换方法及系统在说明书摘要公布了:本申请涉及一种应用于GPU算力调度的应用快速切换方法及系统,包括将AI程序在GPU上运行的一个任务划分为若干执行子任务,并基于预设的准备规则,将任务准备阶段划分出第一准备阶段和第二准备阶段;在当前任务的任务准备阶段过程中,运行下一个任务的第一准备阶段;在当前任务的任务执行阶段达到预设进程时,运行下一个任务中第一个所述执行子任务的第二准备阶段;当第二准备阶段运行结束后,运行第一个所述执行子任务;在第一个所述执行子任务运行过程中,运行下一个执行子任务的第二准备阶段,同时运行任务清洗阶段;当所有执行子任务运行完成后,运行任务清洗阶段。本申请具有减小AI程序在GPU上运行的任务切换开销,且提升GPU的利用率的效果。
本发明授权一种应用于GPU算力调度的应用快速切换方法及系统在权利要求书中公布了:1.一种应用于GPU算力调度的应用快速切换方法,其特征在于:将AI程序在GPU上运行的一个任务划分为若干执行子任务,并基于预设的准备规则,将任务准备阶段划分出第一准备阶段和第二准备阶段;所述第一准备阶段包括环境初始化阶段,所述环境初始化阶段用于对多个任务进程启动以及PyTorchCUDA运行时的加载和CUDA上下文初始化;所述第二准备阶段包括显存分配阶段和数据传输阶段,所述显存分配阶段用于为AI程序中的执行子任务申请匹配的显存,且所述AI程序保存于预设的主机内存中;所述数据传输阶段用于将AI程序模型的模型数据和需要在GUP上运行的任务从主机内存中拷贝至显存中;基于预设的运行规则,在当前任务开始运行环境初始化阶段时,同步运行下一个任务的环境初始化阶段;在当前任务的任务执行阶段达到预设进程时,运行下一个任务中第一个所述执行子任务的第二准备阶段;当下一个任务中第一个所述执行子任务的第二准备阶段运行结束后,运行第一个所述执行子任务;在第一个所述执行子任务运行过程中,运行下一个执行子任务的第二准备阶段,同时运行任务清洗阶段以清除已完成运行的任务;当所有执行子任务运行完成后,运行任务清洗阶段。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人广东博成网络科技有限公司,其通讯地址为:510000 广东省广州市天河区金穗路3号2601室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。