买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉上海壁仞科技股份有限公司申请的专利用于管理显存的方法、设备和存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119536889B 。

龙图腾网通过国家知识产权局官网在2026-04-07发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411692556.1，技术领域涉及：G06F9/451；该发明授权用于管理显存的方法、设备和存储介质是由请求不公布姓名;请求不公布姓名;请求不公布姓名;请求不公布姓名;请求不公布姓名设计研发完成，并于2024-11-22向国家知识产权局提交的专利申请。

本用于管理显存的方法、设备和存储介质在说明书摘要公布了：本发明的实施例涉及一种用于管理显存的方法。该方法包括：在板卡处，确定关于板卡的全局显存区域；确定用于键值缓存的第一显存区域，并将第一显存区域分配至全局显存区域的第一端；确定用于激活值缓存的第二显存区域，并将第二显存区域分配至全局显存区域的第二端；基于第一显存区域和第二显存区域，确定全局显存区域中未被占用的空显存区域。通过将第一显存区域和第二显存区域中至少一个的至少部分区域释放至空显存区域，或者将空显存区域中的至少部分区域转换为第一显存区域和第二显存区域中至少一个，使得能够动态地改变第一显存区域和第二显存区域中的至少一个的当前大小，从而实现在全局显存区域中灵活配置第一显存区域和第二显存区域。

本发明授权用于管理显存的方法、设备和存储介质在权利要求书中公布了：1.一种用于管理显存的方法，其特征在于，包括： 在板卡处，确定关于所述板卡的全局显存区域； 确定用于键值缓存的第一显存区域，并将所述第一显存区域分配至所述全局显存区域的第一端； 确定用于激活值缓存的第二显存区域，并将所述第二显存区域分配至所述全局显存区域的第二端； 基于所述第一显存区域和所述第二显存区域，确定所述全局显存区域中未被占用的空显存区域；以及 通过将所述第一显存区域和所述第二显存区域中至少一个的至少部分区域释放至所述空显存区域，或者将所述空显存区域中的至少部分区域转换为所述第一显存区域和所述第二显存区域中至少一个，改变所述第一显存区域和所述第二显存区域中的至少一个的当前大小，以实现对所述全局显存区域的灵活配置， 其中，确定用于激活值缓存的第二显存区域包括： 至少基于用于推理的输入，确定与所述输入有关的输入参数，所述输入参数包括：批大小和序列长度； 根据所述输入参数，确定用于推理的所有激活张量，并确定每个激活张量所占用的显存大小；以及 对每个激活张量所占用的显存大小进行基于预定规则的计算，以得到所述第二显存区域的大小; 所述方法还包括：响应于所述当前输入的输入参数与前一次输入的输入参数不同，释放当前第二显存区域，将所述当前第二显存区域转换为所述空显存区域，以得到新空显存区域。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海壁仞科技股份有限公司，其通讯地址为：201114 上海市闵行区陈行公路2388号16幢13层1302室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。