买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉合肥综合性国家科学中心人工智能研究院(安徽省人工智能实验室)申请的专利基于自适应张量并行的强化学习训练加速系统及方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121543661B 。

龙图腾网通过国家知识产权局官网在2026-04-07发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202610084107.1，技术领域涉及：G06N3/092；该发明授权基于自适应张量并行的强化学习训练加速系统及方法是由赵龙;王清鹤;戴子健;王乐;光熠;钟书成设计研发完成，并于2026-01-22向国家知识产权局提交的专利申请。

本基于自适应张量并行的强化学习训练加速系统及方法在说明书摘要公布了：本发明公开了基于自适应张量并行的强化学习训练加速系统及方法，涉及人工智能技术领域，包括：离线测量模块，在训练开始之前，构建系统性能数据库；推理执行模块，用于在RLHF生成阶段执行模型的自回归推理任务，负责实时收集模型推理的运行状态数据；延迟预测模块，基于系统性能数据库和运行状态数据，在生成阶段实时估计模型在不同候选张量并行度下的剩余生成时间开销，以及完成一次张量并行度切换所需的切换时间开销；切换控制模块，计算不同候选张量并行度下的预计总延迟，并达到触发条件时，生成切换控制信号并发送给切换执行模块；该加速系统实现生成阶段张量并行度动态调整的机制。

本发明授权基于自适应张量并行的强化学习训练加速系统及方法在权利要求书中公布了：1.基于自适应张量并行的强化学习训练加速系统，其特征在于，包括： 离线测量模块，在训练开始之前，获取模型推理在不同张量并行度下的特征分布并储存于系统性能数据库中； 推理执行模块，用于在RLHF生成阶段执行模型的自回归推理任务，负责实时收集模型推理的运行状态数据； 延迟预测模块，基于系统性能数据库和运行状态数据，在生成阶段实时估计模型在当前张量并行度以及不同候选张量并行度下的剩余生成时间开销，估算完成一次张量并行度切换所需的切换时间开销，具体为： 基于通信带宽、模型权重数据量、KV缓存规模，计算从当前张量并行度切换至候选张量并行度的切换时间开销： ； 其中，代表KV缓存的处理时间，；表征删除当前配置依赖变量及释放显存资源的时间开销，；表征在目标并行度下重新初始化目标张量及运行环境的时间，；表征模型权重在不同设备间重切分的时间开销，，系数表征释放单位存储容量数据的耗时，为单位数据分配延迟系数，表征在显存中重新分配单位容量数据的平均耗时，为环境重置固定开销，表征重置CUDA运行环境及切换通信组的固定延迟； 切换控制模块，基于剩余生成时间开销和切换时间开销，计算不同候选张量并行度下的预计总延迟，当存在一个候选张量并行度对应的总延迟大于设定安全裕度时，生成切换控制信号并发送给切换执行模块； 切换执行模块，基于所述切换控制信号激活对应候选张量并行度的通信组，以及通过集合通信操作在通信组内对模型权重进行汇聚并重新切分与分发，以匹配新的张量并行度，将新的张量并行度反馈到推理执行模块，直至所有样本生成完成。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人合肥综合性国家科学中心人工智能研究院(安徽省人工智能实验室)，其通讯地址为：230026 安徽省合肥市高新区望江西路5089号中国科学技术大学先进技术研究院未来中心B1205-B1208；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。