之江实验室薛镭获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉之江实验室申请的专利一种面向大模型训练的在线自动调优编译系统及方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120087455B 。
龙图腾网通过国家知识产权局官网在2025-08-15发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510571510.2,技术领域涉及:G06N3/10;该发明授权一种面向大模型训练的在线自动调优编译系统及方法是由薛镭;黄崇栋;苏志毅;薛辉设计研发完成,并于2025-05-06向国家知识产权局提交的专利申请。
本一种面向大模型训练的在线自动调优编译系统及方法在说明书摘要公布了:本发明公开了一种面向大模型训练的在线自动调优编译系统及方法,属于计算框架编程与编译器领域。系统包括自动调优客户端、自动调优服务器端、配置管理器、Triton算子注册器、通信管理器、自动调优调度器和数据采集器。本发明通过在线搜索大模型训练过程中融合算子的最优超参配置,提升融合算子的计算性能,进而提升大模型训练过程中利用GPU硬件资源的效率;本发明的在线自动调优编译系统提供了搜索更大的超参空间,针对大模型训练过程中端到端性能,快速查找融合算子的最优超参配置。
本发明授权一种面向大模型训练的在线自动调优编译系统及方法在权利要求书中公布了:1.一种面向大模型训练的在线自动调优编译系统,其特征在于,包括自动调优客户端、自动调优服务器端、配置管理器、Triton算子注册器、通信管理器、自动调优调度器和数据采集器; 所述数据采集器,用于采集大模型训练过程中的性能指标数据作为优化目标; 所述自动调优客户端,用于在大模型训练启动以后,负责将数据采集器采集的性能指标数据并调用通信管理器发送给自动调优服务器端; 所述自动调优服务器端,用于在收到自动调优客户端自动调优的请求后,根据不同的调优策略初始化超参空间,并根据自动调优客户端反馈的性能指标数据,调整下一轮迭代训练所需的超参配置作为更新后的超参配置并调用通信管理器发送给自动调优客户端; 所述配置管理器,用于向用户提供启动在线自动调优的开关,并将自动调优客户端接收的更新后的超参配置配置到大模型框架中的Triton融合算子中; 所述Triton算子注册器,用于将Triton融合算子注册到大模型训练框架,并接收更新的超参配置; 所述通信管理器,用于负责采用通讯协议实现自动调优客户端与自动调优服务器端之间的数据传输; 所述自动调优调度器,用于将超参配置传递给集群中参与大模型训练的多个GPU服务器。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人之江实验室,其通讯地址为:311121 浙江省杭州市余杭区中泰街道科创大道之江实验室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。