上海稀宇科技有限公司杨博获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉上海稀宇科技有限公司申请的专利一种混合专家模型的负载均衡方法、装置及电子设备获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120029788B 。
龙图腾网通过国家知识产权局官网在2025-08-05发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510512128.4,技术领域涉及:G06F9/50;该发明授权一种混合专家模型的负载均衡方法、装置及电子设备是由杨博;杨雨丰设计研发完成,并于2025-04-23向国家知识产权局提交的专利申请。
本一种混合专家模型的负载均衡方法、装置及电子设备在说明书摘要公布了:本申请提供了一种混合专家模型的负载均衡方法、装置及电子设备,负载均衡方法应用于混合专家模型训练阶段中,包括:获取每个计算节点下每个子模型的待处理负载的数量;针对于每个子模型,将该子模型在每个计算节点下的待处理负载的数量进行求和,得到该子模型接收到的实际负载总数,并确定出该子模型在多个计算节点下的预设负载总数;基于每个子模型的实际负载总数以及预设负载总数,从所述待处理负载中确定出待丢弃负载,丢弃所述待丢弃负载,以使所述混合专家模型中的每个子模型达到负载均衡。通过所述方法及装置,仅需要一次全局通信同步就能够显著降低负载丢弃的数量,不会影响混合专家模型的表征能力,同时也防止了混合专家模型的算力浪费。
本发明授权一种混合专家模型的负载均衡方法、装置及电子设备在权利要求书中公布了:1.一种混合专家模型的负载均衡方法,应用于混合专家模型训练阶段中,其特征在于,所述混合专家模型中包括门控模块和softmax,所述负载均衡方法包括: 基于门控模块和softmax确定各个待处理负载分配的子模型,根据所有待处理负载的分配结果,获取每个计算节点下每个子模型的待处理负载的数量; 针对于每个子模型,将该子模型在每个计算节点下的待处理负载的数量进行求和,得到该子模型接收到的实际负载总数,并确定出该子模型在多个计算节点下的预设负载总数; 基于每个子模型的实际负载总数以及预设负载总数,从所述待处理负载中确定出待丢弃负载,丢弃所述待丢弃负载,以使所述混合专家模型中的每个子模型达到负载均衡; 所述基于每个子模型的实际负载总数以及预设负载总数,从所述待处理负载中确定出待丢弃负载,包括: 针对于每个子模型,判断该子模型的实际负载总数是否大于该子模型的预设负载总数; 若是,则将该子模型确定为目标子模型,并计算所述目标子模型的实际负载总数与预设负载总数之间的差值; 基于所述目标子模型对应的差值,从所述目标子模型在每个计算节点下的待处理负载中确定出待丢弃负载; 或者, 针对于每个子模型,判断该子模型的实际负载总数是否大于该子模型的预设负载总数; 若是,则将该子模型确定为目标子模型,并基于所述目标子模型的实际负载总数与预设负载总数之间的差值计算出负载差异比值;其中,所述负载差异比值为所述差值与所述预设负载总数之间的比值; 基于所述目标子模型对应的负载差异比值,从所述目标子模型在每个计算节点下的待处理负载中确定出的待丢弃负载。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人上海稀宇科技有限公司,其通讯地址为:200233 上海市徐汇区虹漕路25-1号2楼;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。