买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉之江实验室申请的专利面向大模型训练集群的网络流量建模方法与仿真系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120128489B 。

龙图腾网通过国家知识产权局官网在2025-09-02发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510578519.6，技术领域涉及：H04L41/14；该发明授权面向大模型训练集群的网络流量建模方法与仿真系统是由何源浩;李晟;骆汉光;肖戈扬;邹涛;朱俊;张汝云;白冰;杨少波;卢东辉;葛俊成;梁元设计研发完成，并于2025-05-07向国家知识产权局提交的专利申请。

本面向大模型训练集群的网络流量建模方法与仿真系统在说明书摘要公布了：本发明公开了一种面向大模型训练集群的网络流量建模方法与仿真系统，该方法通过获取集群配置和模型训练信息，首先构建大模型分布式训练的整体流程，再通过计算与通信过程建模，量化分布式训练时模型计算过程的计算资源需求和参数或梯度同步等过程的数据传输需求，并分析不同并行配置下进行参数或梯度同步和中间激活值传输的通信流量特征。在此基础上，构建了一个能够模拟不同流量调度策略在集群网络环境中效果的仿真系统，为优化大模型训练中的网络调度策略提供实践和验证支持。通过该方法与系统，能够量化分析分布式训练过程中的计算与通信效率，并评估和对比不同流量调度策略的优化效果。

本发明授权面向大模型训练集群的网络流量建模方法与仿真系统在权利要求书中公布了：1.一种面向大模型训练集群的网络流量建模方法，其特征在于，包括以下步骤： （1）获取与模型训练相关的基础参数信息，包括输入样本数量、模型结构；获取拟采用设备的性能参数信息； （2）流程建模：对目标分布式训练策略进行流程建模，构建大模型在数据并行、张量并行、流水线并行的混合并行环境下的训练流程； （3）计算建模：对大模型分布式训练中的各个计算节点建模，分析训练过程中各层的计算过程，包括输入层、Transformer解码器和输出层；同时，基于输入样本数、模型参数规模及训练流程，量化每个计算节点的计算负载与计算时间； （4）通信流量建模：根据混合并行配置分析每个训练流程的数据传输需求，量化各通信节点间的数据交换量；结合不同的并行策略与通信模式，量化各通信节点的通信量与通信时间； （4.1）从数据并行的角度进行量化：将模型参数和优化器状态复制到多个GPU上，然后将训练数据平均分配到这些GPU上；数据并行产生的通信主要在不同模型副本间的梯度与参数同步过程，采用AllReduce的通信模式计算GPU卡间单次通信量； （4.2）从张量并行的角度进行量化：将Transformerblock层的参数矩阵切分并在多个GPU上并行计算，张量并行引发的通信主要涉及同步不同模型部分的参数或梯度矩阵；采用AllReduce模式进行数据交换，计算GPU卡间单次通信量； （4.3）从流水线并行的角度进行量化：将模型不同层的参数分配到不同的GPU上，流水线并行产生的通信主要在模型不同阶段间的上下文交互过程，采用点到点的通信模式计算GPU卡间单次通信量； （4.4）根据上述通信量，结合相关设备的带宽信息，估算模型训练的单次通信耗时。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人之江实验室，其通讯地址为：311121 浙江省杭州市余杭区中泰街道科创大道之江实验室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。