买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉成都九洲电子信息系统股份有限公司申请的专利基于数据并行与模型并行的神经网络整合训练方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119849557B 。

龙图腾网通过国家知识产权局官网在2025-10-21发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411927046.8，技术领域涉及：G06N3/0464；该发明授权基于数据并行与模型并行的神经网络整合训练方法及系统是由曾琦;霍曦;原小卫;汪俊贵;李晨华洋;邹昆;郭春江;段军;古训;刘越;李丽娟;王奇;吴颖设计研发完成，并于2024-12-25向国家知识产权局提交的专利申请。

本基于数据并行与模型并行的神经网络整合训练方法及系统在说明书摘要公布了：本发明公开了基于数据并行与模型并行的神经网络整合训练方法及系统，方法包括：在若干训练单元上分别部署目标神经网络的卷积神经网络结构和全连接层分割结构；按数据并行的方式完成各卷积神经网络结构的计算，按模型并行的方式完成各全连接层分割结构的计算；合并各全连接层分割结构的输出，得到训练预测值；利用训练预测值，通过改进的Softmax方法计算各全连接层分割结构的损失函数和反向传播梯度，并将反向传播梯度同步更新至各卷积神经网络结构；重复上述步骤，完成目标神经网络的训练。本发明能够在保证高效性的同时，显著降低显存消耗，减少通信开销，优化计算负载的分配，提供更强的扩展性，为大规模神经网络的训练提供更加高效、可靠的解决方案。

本发明授权基于数据并行与模型并行的神经网络整合训练方法及系统在权利要求书中公布了：1.基于数据并行与模型并行的神经网络整合训练方法，其特征在于，包括步骤： S1.在若干训练单元上分别部署目标神经网络的卷积神经网络结构和全连接层分割结构；所述全连接层分割结构为将所述目标神经网络的全连接层结构按所述训练单元的数量均匀分割得到； S2.按数据并行的方式完成各所述卷积神经网络结构的计算，按模型并行的方式完成各所述全连接层分割结构的计算； S3.合并各所述全连接层分割结构的输出，得到训练预测值； S4.利用所述训练预测值，通过改进的Softmax方法计算各所述全连接层分割结构的损失函数和反向传播梯度，并将所述反向传播梯度同步更新至各所述卷积神经网络结构； S5.重复步骤S2-S4，完成所述目标神经网络的训练； 所述改进的Softmax方法包括：在各所述全连接层分割结构上执行Softmax计算前，通过实现所述目标神经网络的框架的底层API，在多训练单元中同步计算并交换softmax指数最大值和指数之和； 所述数据并行处理的输入数据包括图像和视频。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人成都九洲电子信息系统股份有限公司，其通讯地址为：610000 四川省成都市高新区天府大道中段765号天府软件园；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。