微软技术许可有限责任公司B·普蒂佩迪获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉微软技术许可有限责任公司申请的专利人工智能模型的分布式训练中的数据并行性获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN114127740B 。
龙图腾网通过国家知识产权局官网在2025-07-11发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202080051343.4,技术领域涉及:G06N3/0464;该发明授权人工智能模型的分布式训练中的数据并行性是由B·普蒂佩迪;M·特伦布莱;S·S·布哈拉德瓦杰;D·帕特尔;奚锦文;M·梅斯马霍斯罗沙希设计研发完成,并于2020-06-09向国家知识产权局提交的专利申请。
本人工智能模型的分布式训练中的数据并行性在说明书摘要公布了:本文中描述了启用大型AI模型在被通信地连接到参数服务器的存储器受限目标设备上的执行的方法、系统、装置和计算机程序产品,该参数服务器存储AI模型的主副本。AI模型可以被分解成较小的部分例如,层或子层,并且每个部分可以在目标设备上尽可能高效地执行。在AI模型的一部分的执行完成之后,可以在目标设备处下载并执行AI模型的另一部分。为了提高效率,可以将输入样本划分为微批次,并且按顺序执行的多个微批次可以形成迷你批次。可以调节一组微批次或迷你批次的大小以减少通信开销。可以在参数服务器和目标设备处执行多级并行的参数缩减。
本发明授权人工智能模型的分布式训练中的数据并行性在权利要求书中公布了:1.一种系统,包括: 参数服务器,被通信地连接到目标设备,所述参数服务器包括: 数据管理器,被配置为存储人工智能AI模型的主副本; 传输器,被配置为向所述目标设备传输所述AI模型的一部分,所述目标设备包括集成电路芯片,所述集成电路芯片具有小于所述AI模型的整体的大小的片上存储器,并且所述部分的大小基于所述片上存储器的可用大小和所述AI模型的一个或多个层的大小; 批次管理器,被配置为确定适合于所述目标设备的微批次大小;并且 与由所述集成电路芯片在所述目标设备处在被存储在所述片上存储器的所述AI模型的所传输的所述部分的第一子部分上执行训练数据集的微批次集合以生成梯度同时地, 权重更新器被配置为针对所述AI模型的所传输的所述部分的第二子部分执行参数缩减,以及 所述传输器还被配置为向所述目标设备发送针对所述AI模型的所传输的所述部分的第三子部分的权重。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人微软技术许可有限责任公司,其通讯地址为:美国华盛顿州;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。