星环信息科技(上海)股份有限公司杨一帆获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉星环信息科技(上海)股份有限公司申请的专利一种大模型集群的资源配置方法、装置、设备、存储介质及程序产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119597368B 。
龙图腾网通过国家知识产权局官网在2025-09-23发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411703999.6,技术领域涉及:G06F9/445;该发明授权一种大模型集群的资源配置方法、装置、设备、存储介质及程序产品是由杨一帆;李航正洋;唐剑飞设计研发完成,并于2024-11-26向国家知识产权局提交的专利申请。
本一种大模型集群的资源配置方法、装置、设备、存储介质及程序产品在说明书摘要公布了:本发明公开了一种大模型集群的资源配置方法、装置、设备、存储介质及程序产品。包括:基于用户选择的配置任务确定配置参数;基于所述配置任务及所述配置参数确定算力需求、带宽需求及显存需求中的至少一种;根据所述算力需求、带宽需求及显存需求中的至少一种构造约束条件及目标函数;基于所述约束条件利用预设的规划算法对目标函数进行迭代优化,以求解所述未知配置参数,获得目标配置参数。本发明实施例提供的大模型集群的资源配置方法,可以确定出最佳的大模型学习参数或者硬件资源配置,提高大模型集群资源配置的效率及可靠性。
本发明授权一种大模型集群的资源配置方法、装置、设备、存储介质及程序产品在权利要求书中公布了:1.一种大模型集群的资源配置方法,其特征在于,包括: 基于用户选择的配置任务确定配置参数;其中,配置参数包括:超参数、微批大小、全批大小、词表长度、上下文长度、Transformer层数、隐藏层维度、模型参数量、数据并行度、流水线并行度、张量并行度及零冗余并行模式中的一个或多个;且配置参数中的部分为已知配置参数,另一部分为未知配置参数; 基于所述配置任务及所述配置参数确定算力需求、带宽需求及显存需求中的至少一种; 根据所述算力需求、带宽需求及显存需求中的至少一种构造约束条件及目标函数;其中,所述约束条件包括算力约束条件、带宽约束条件、存储约束条件、成本约束条件及训练或推理速度约束条件中的至少一种;所述目标函数包括耗时最短目标函数及成本比最高目标函数; 基于所述约束条件利用预设的规划算法对目标函数进行迭代优化,以求解所述未知配置参数,获得目标配置参数。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人星环信息科技(上海)股份有限公司,其通讯地址为:200233 上海市徐汇区虹漕路88号3楼、B栋11楼;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励