新立讯科技集团股份有限公司;算鸟云(南京)数据服务有限公司毛霖获国家专利权
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
龙图腾网获悉新立讯科技集团股份有限公司;算鸟云(南京)数据服务有限公司申请的专利超万卡级训练与推理任务的容错恢复方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120066839B 。
龙图腾网通过国家知识产权局官网在2025-08-05发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510526794.3，技术领域涉及：G06F11/07；该发明授权超万卡级训练与推理任务的容错恢复方法及系统是由毛霖;张帆;陈伟;陈海军;齐佰剑设计研发完成，并于2025-04-25向国家知识产权局提交的专利申请。
本超万卡级训练与推理任务的容错恢复方法及系统在说明书摘要公布了：本发明涉及梯度重建技术领域，尤其涉及超万卡级训练与推理任务的容错恢复方法及系统，本发明提出以下方案，通过分层存储结构管理训练数据，并在计算节点故障时，采用全局梯度回溯进行梯度恢复。恢复过程中，基于存储的梯度快照设定动态时间窗口，通过调整窗口长度优化梯度恢复精度。当回溯失败时，采用微检查点回滚确保训练进程的稳定恢复。并基于因果依赖链与梯度插值回归方法，对关键路径进行版本控制梯度重放，对非关键路径采用插值回归恢复，最终通过加权校正提高梯度恢复精度。能够减少计算节点故障带来的梯度丢失，提高超大规模训练任务的容错能力和计算效率。
本发明授权超万卡级训练与推理任务的容错恢复方法及系统在权利要求书中公布了：1.超万卡级训练与推理任务的容错恢复方法，应用于跨模态大模型的训练阶段，其特征在于，所述容错恢复方法包括： 在训练开始阶段建立计算节点的分层存储结构，所述分层存储结构通过增量式梯度图谱与动态因果检查点实现，所述分层存储结构包括高速层和低速层，其中分层存储结构的建立步骤包括： 按训练时间预先设定连续时间窗口，每个窗口生成对应的梯度图谱，其中所述梯度图谱包括图谱节点、图谱边和图谱元数据； 根据所述梯度图谱的因果关系，识别关键路径和非关键路径，其中路径的识别基于梯度路径的修正幅度确定； 根据路径属性布置检查点，将所述检查点采集的梯度数据存储至对应的高速层和低速层； 当所述计算节点出现故障时，根据所述分层存储结构，通过全局梯度回溯对训练梯度进行恢复，其中所述对训练梯度进行恢复包括： 根据存储的梯度快照设定时间窗口，并逐步调整窗口长度； 通过增量修正恢复梯度训练状态； 如果回溯失败，回滚至微检查点进行恢复，所述微检查点是在训练过程中周期性保存的状态快照。
如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人新立讯科技集团股份有限公司;算鸟云(南京)数据服务有限公司，其通讯地址为：210012 江苏省南京市雨花台区安德门大街57号7幢8楼801-810室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号