买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉浙江大学申请的专利一种基于AllReduce架构的高效参数同步方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119788688B 。

龙图腾网通过国家知识产权局官网在2025-10-31发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411689019.1，技术领域涉及：H04L67/1095；该发明授权一种基于AllReduce架构的高效参数同步方法是由徐金明;沈奕澎;孟文超;贺诗波;朱泽晗;张梓洋;黄炎设计研发完成，并于2024-11-25向国家知识产权局提交的专利申请。

本一种基于AllReduce架构的高效参数同步方法在说明书摘要公布了：本发明公开了一种基于AllReduce架构的高效参数同步方法，该方法首先根据底层物理链路带宽对节点进行分组分解，使分解后的链路带宽与通信量相匹配，再根据分解后不同通信阶段的通信量对待通信数据进行分块，最后每个数据块在不同类型链路上以分组分解AllReduce的方式并行地进行参数同步。本发明用于在复杂网络环境下进行高效的参数同步，能克服带宽异构的影响，在多网卡场景下可以高效地并行，单网卡场景下也能利用空闲链路提高并行度，在同构和异构网络环境下都能取得优异的性能表现。

本发明授权一种基于AllReduce架构的高效参数同步方法在权利要求书中公布了：1.一种基于AllReduce架构的高效参数同步方法，其特征在于，该方法包括如下步骤： 根据GPUNPU集群系统的底层物理拓扑对节点进行分组分解，通过节点分组结果计算数据同步阶段的通信量，使得分解后的链路带宽与数据同步阶段的通信量相匹配； 根据分解后不同通信阶段的通信量以及各链路带宽大小将待同步数据进行切分，得到数据块；所述将待同步数据进行切分具体为：令第一个数据块采用同步过程中各阶段数据通信量和链路带宽匹配的默认同步方式；第r个数据块的同步阶段i对应于默认同步方式的第个阶段的链路，且第r个数据块的大小为；其中，表示为链路的带宽；m为待同步数据的大小，k为切分后的数据块总数，与通信阶段数相等； 并行地对切分得到的数据块进行数据同步，所述数据同步通信方式包括scatter-reduce和all-gather，每种数据同步通信方式的阶段数与节点分组的组数相同，在每个阶段的通信结束后进行不同数据块通信进程间的同步操作； 所述数据同步具体为： 对单个数据块执行2k阶段的同步操作，前k个阶段执行scatter-reduce操作，第i个阶段内共有个通信组在相同类型链路上并行地进行通信，n为参与同步的节点总数，每个通信组内有个节点，每个通信组以RingAllreduce中scatter-reduce的方式进行通信；后k个阶段执行all-gather操作，倒数第i个阶段内共有个通信组在相同类型链路上并行地进行通信，每个通信组内有个节点，每个通信组以RingAllreduce中all-gather的方式进行通信，在每个阶段的通信结束后进行不同数据块通信进程间的同步操作； 最终使每个节点都拥有聚合了所有节点数据的完整数据块，完成参数同步过程。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浙江大学，其通讯地址为：310058 浙江省杭州市西湖区余杭塘路866号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。