中国科学院计算机网络信息中心万萌获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中国科学院计算机网络信息中心申请的专利一种面向张量结构等价的多流GPU显存复用方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120596250B 。
龙图腾网通过国家知识产权局官网在2025-11-18发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510672028.8,技术领域涉及:G06F9/50;该发明授权一种面向张量结构等价的多流GPU显存复用方法及装置是由万萌;曹荣强;李杨灏;李凯;王晓光;王珏;王彦棡设计研发完成,并于2025-05-23向国家知识产权局提交的专利申请。
本一种面向张量结构等价的多流GPU显存复用方法及装置在说明书摘要公布了:一种面向张量结构等价的多流GPU显存复用方法,一个计算流的显存块被释放后,放入显存共享池,方法包括:提取张量的结构信息,包括维度、数据类型和步长布局,基于张量的结构信息生成唯一结构标识;构建并维护映射表,映射表中存储多个键值对,键为唯一结构标识,值为显存地址,显存块位于显存共享池中;为张量显存分配时,结合当前执行上下文标识,查询映射表中是否存在与唯一结构标识匹配且未被占用的显存地址,存在的情况下,调整指针指向显存地址,为张量分配未被占用的显存;在不存在的情况下申请显存地址并更新映射表。本方法能够在不改变原始网络结构与执行逻辑的前提下,可复用大量生命周期不重叠的张量空间,显著降低显存峰值占用。
本发明授权一种面向张量结构等价的多流GPU显存复用方法及装置在权利要求书中公布了:1.一种面向张量结构等价的多流GPU显存复用方法,其特征在于,应用于GPU的多流计算场景,不同的计算流存在结构相同但生命周期不同的张量,一个计算流的显存块被释放后,放入显存共享池,所述方法包括: 在张量创建阶段,提取张量的结构信息,包括维度、数据类型和步长布局,基于张量的结构信息生成唯一结构标识; 构建并维护映射表,所述映射表中存储多个键值对,键为所述唯一结构标识,值为唯一结构标识对应的显存块的显存地址,所述显存块位于所述显存共享池中; 在为张量进行显存分配请求时,显存分配器结合当前执行上下文标识,查询所述映射表中是否存在与所述唯一结构标识匹配且未被占用的显存地址,在存在的情况下,调整指针指向未被占用的显存地址,为张量分配未被占用的显存;在不存在的情况下申请显存地址并更新所述映射表。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国科学院计算机网络信息中心,其通讯地址为:100190 北京市海淀区中关村南四街4号院内2号楼;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励