苏州元脑智能科技有限公司王辰获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉苏州元脑智能科技有限公司申请的专利一种混合专家模型显存优化方法、系统和电子设备获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121614278B 。
龙图腾网通过国家知识产权局官网在2026-04-14发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202610143225.5,技术领域涉及:G06F9/50;该发明授权一种混合专家模型显存优化方法、系统和电子设备是由王辰设计研发完成,并于2026-02-02向国家知识产权局提交的专利申请。
本一种混合专家模型显存优化方法、系统和电子设备在说明书摘要公布了:本申请公开了一种混合专家模型显存优化方法、系统和电子设备,涉及计算机技术领域,由于部署有混合专家模型子网络的节点在本地只对局部输入进行排序和映射关系的建立,即确定本节点的局部映射表,减少了排序和映射关系的建立操作对本节点显存资源的消耗。并且,通过根据本节点输入词元总量表征的本节点子网络负载,以及显存资源剩余量和单位词元显存占用量,确定本节点的目标块大小,以确保目标块大小与本节点子网络负载等保持动态匹配,有利于提高本节点的显存资源利用率。
本发明授权一种混合专家模型显存优化方法、系统和电子设备在权利要求书中公布了:1.一种混合专家模型显存优化方法,其特征在于,包括: 获取混合专家模型的输入词元序列和本节点的子网络信息;其中,所述混合专家模型包括多个子网络; 根据所述输入词元序列和本节点的子网络信息,确定本节点的局部映射表;其中,所述局部映射表包括所述本节点部署的各个子网络与本节点的局部输入词元之间的映射关系,所述局部映射表中的局部输入词元根据子网络索引号按序排列; 获取本节点的显存资源剩余量和单位词元显存占用量; 根据所述局部映射表表征的本节点输入词元总量、所述显存资源剩余量和单位词元显存占用量,确定本节点的目标块大小; 根据所述目标块大小和所述局部映射表,进行数据块划分,以得到多个待处理数据块;其中,所述待处理数据块包括多个本节点的局部输入词元; 基于本节点的子网络,按序对所述多个待处理数据块进行推理计算,得到待输出的推理结果。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人苏州元脑智能科技有限公司,其通讯地址为:215000 江苏省苏州市吴中经济开发区综保区经一路1号8幢;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励