买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉上海壁仞科技股份有限公司申请的专利交错式流水线并行训练方法、装置、设备、存储介质和程序产品获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119376796B 。

龙图腾网通过国家知识产权局官网在2025-07-29发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411968005.3，技术领域涉及：G06F9/38；该发明授权交错式流水线并行训练方法、装置、设备、存储介质和程序产品是由请求不公布姓名设计研发完成，并于2024-12-30向国家知识产权局提交的专利申请。

本交错式流水线并行训练方法、装置、设备、存储介质和程序产品在说明书摘要公布了：本发明实施方式公开了交错式流水线并行训练方法、装置、设备、存储介质和程序产品，属于人工智能技术领域。方法包括：基于计算单元数、分块数和大模型的总层数，确定每个分块包含的层数，其中每个分块包含的层数是可配置的；基于计算单元数、分块数和大模型的总层数，确定每个分块包含的层数包括下列中的一个：基于计算单元数、分块数和总层数，以气泡时间为指标而确定每个分块包含的层数；基于计算单元数、分块数和总层数，以显存消耗为指标而确定每个分块包含的层数；基于计算单元数、分块数和总层数，以气泡时间和显存消耗为指标而确定每个分块包含的层数；基于每个分块包含的层数，对大模型执行交错式流水线并行训练。可以提高训练效率。

本发明授权交错式流水线并行训练方法、装置、设备、存储介质和程序产品在权利要求书中公布了：1.一种交错式流水线并行训练方法，其特征在于，包括： 基于计算单元数、分块数和大模型的总层数，确定每个分块包含的层数，其中每个分块包含的层数是可配置的，其中基于所述计算单元数和所述分块数，确定将所述总层数分配到各个分块的多个候选方案，每个候选方案包含各个分块包含的各自层数；所述基于计算单元数、分块数和大模型的总层数，确定每个分块包含的层数包括下列中的一个：基于所述计算单元数、所述分块数和所述总层数，以气泡时间为指标而确定每个分块包含的层数；基于所述计算单元数、所述分块数和所述总层数，以显存消耗为指标而确定每个分块包含的层数；基于所述计算单元数、所述分块数和所述总层数，以气泡时间和显存消耗为指标而确定每个分块包含的层数； 基于所述每个分块包含的层数，对所述大模型执行交错式流水线并行训练； 在所述基于计算单元数、分块数和大模型的总层数，确定每个分块包含的层数之前，所述方法还包括：基于所述总层数与所述计算单元数，确定每个计算单元的层数； 所述基于计算单元数、分块数和大模型的总层数，确定每个分块包含的层数包括：当所述每个计算单元的层数不被所述分块数整除时，至少两个分块包含的层数不相同；当所述每个计算单元的层数被所述分块数整除时，各个分块包含的层数相同。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海壁仞科技股份有限公司，其通讯地址为：201114 上海市闵行区陈行公路2388号16幢13层1302室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。