买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉西北农林科技大学申请的专利一种基于混合并行的深度卷积神经网络并行训练方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN115293342B 。

龙图腾网通过国家知识产权局官网在2025-10-17发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210264342.9，技术领域涉及：G06N3/0464；该发明授权一种基于混合并行的深度卷积神经网络并行训练方法是由刘斌;胡琪琳;刘荣达;张海曦;袁爱红设计研发完成，并于2022-03-17向国家知识产权局提交的专利申请。

本一种基于混合并行的深度卷积神经网络并行训练方法在说明书摘要公布了：本发明提出了一种基于混合并行的深度卷积神经网络并行训练方法，用于快速训练具有大数据集的大模型。该方法包含组内并行和组间并行。对于组内并行性，首先使用自动模型划分方法将模型分割为多个分区，并将多个分区分别放置在不同的GPU上。然后，将划分后的小批量数据一个接一个地连续发送到不同的GPU上，并且以流水线并行方式训练多个分区。组间并行在每个分组上复制模型副本，独立的计算梯度，然后在组间分区上将这些梯度的汇总更新，以达到最大化计算与通信重叠，从而减少梯度同步时间。实验结果表明，与传统数据并行和最先进的并行训练torchgpipe方法相比，本发明提出的方法加速性能得到了明显提升。

本发明授权一种基于混合并行的深度卷积神经网络并行训练方法在权利要求书中公布了：1.一种基于混合并行的深度卷积神经网络并行训练方法，其特征在于，包括以下步骤： 步骤1，输入数据，将数据分为若干个小批量数据； 步骤2，小批量数据被划分为m个微批量数据，每一个微批量数据输入至一个分组； 步骤3，对微批量数据依次进行前向计算和反向计算； 每一个分组内前一分区GPU对前一个微批量数据进行前向计算，将计算结果传递至后一分区GPU，后一分区GPU依据前一分区GPU计算结果继续前向计算，前一分区GPU对下一个微批量数据进行前向计算； 每一个微批量数据由所述分组内所有的GPU进行前向计算结束后，通过所有的GPU进行反向计算，每一个分组内前一分区GPU对前一个微批量数据进行反向计算，将计算结果传递至后一分区GPU，后一分区GPU依据前一分区GPU计算结果继续反向计算，前一分区GPU对下一个微批量数据进行反向计算，每一个分区GPU通过反向计算获得对应梯度； 前向计算和反向计算同步进行，直至所述分组对应小批量数据中的所有微批量数据计算完成；一个分组内k个分区GPU同步计算；N个分组同步计算各自对应的小批量数据；一个分区GPU对应深度卷积神经网络中的一区，一个分区GPU中有一个GPU，深度卷积神经网络中的一区包含神经网络中的若干网络层； 步骤4，不同组的所有同一区GPU计算结束后，不同组的同一区GPU进行梯度同步； 步骤5，所有的同一层GPU梯度同步结束后，重复步骤2～4，直至所有的数据计算完成。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人西北农林科技大学，其通讯地址为：712100 陕西省咸阳市杨凌示范区邰城路3号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。