阿里云计算有限公司刘波获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉阿里云计算有限公司申请的专利计算系统、模型训练方法及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115906973B 。
龙图腾网通过国家知识产权局官网在2026-03-20发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211604264.9,技术领域涉及:G06N3/063;该发明授权计算系统、模型训练方法及存储介质是由刘波;林立翔;于子淇设计研发完成,并于2022-12-13向国家知识产权局提交的专利申请。
本计算系统、模型训练方法及存储介质在说明书摘要公布了:本申请实施例提供一种计算系统、模型训练方法及存储介质。在本申请实施例中,针对分布式训练场景中的无P2P直连的多个并行处理单元,通过CPU将多个并行处理单元在每次迭代过程产生的梯度数据,复制到内存;CPU对多个并行处理单元的梯度数据进行全规约操作之后,将全规约结果写回到多个并行处理单元,实现了多个并行处理单元之间的梯度数据同步,有助于提高各并行处理单元的本地神经网络模型的收敛速度。
本发明授权计算系统、模型训练方法及存储介质在权利要求书中公布了:1.一种计算系统,其特征在于,包括:内存、中央处理器CPU及多个并行处理单元;所述内存、所述CPU及所述多个并行处理单元通信连接; 所述CPU开设有所述多个并行处理单元对应的多个进程;每个并行处理单元对应一个独立的进程; 所述多个并行处理单元用于对神经网络模型进行分布式训练,并在每个迭代轮次产生所述神经网络模型的梯度数据;每个迭代轮次对应至少一个规约任务; 所述CPU,用于针对任一迭代轮次对应的任一规约任务,利用所述多个进程,并行从所述多个并行处理单元各自在所述任一迭代轮次产生的梯度数据中,按序分批次复制梯度数据块至所述内存;所述多个进程在同一批次复制的梯度数据块的数据量相同;为所述多个进程在同一批次复制的梯度数据块配置同一数据块标识;利用所述数据块标识对应的第一信号量,对所述内存中该数据块标识对应的梯度数据块进行计数;在所述第一信号量的增量值达到所述多个进程的数量的情况下,利用所述多个进程并行对所述数据块标识对应的梯度数据块进行全规约操作,以得到所述任一规约任务的全规约结果;所述数据块标识的第一信号量的增量值为相较于前一规约任务的全规约操作执行时该第一信号量的值的增量; 所述并行处理单元,用于根据所述任一迭代轮次对应的规约任务的全规约结果,更新所述神经网络模型的模型参数。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人阿里云计算有限公司,其通讯地址为:310024 浙江省杭州市西湖区转塘科技经济区块12号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励