湖南大学李肯立获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉湖南大学申请的专利面向新一代异构超算大模型并行训练与推理适配优化方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119783812B 。
龙图腾网通过国家知识产权局官网在2025-10-31发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411785151.2,技术领域涉及:G06N5/04;该发明授权面向新一代异构超算大模型并行训练与推理适配优化方法是由李肯立;刘睿康;刘楚波;纪生义;肖国庆;段明星;丁岩;王昊天设计研发完成,并于2024-12-06向国家知识产权局提交的专利申请。
本面向新一代异构超算大模型并行训练与推理适配优化方法在说明书摘要公布了:本申请涉及一种面向新一代异构超算大模型并行训练与推理适配优化方法,获取模型上下文关系与层间张量依赖关系,基于模型上下文关系与层间张量依赖关系构建有向无环依赖关系图,并根据有向无环依赖关系图封装算子,得到迭代执行队列;分配通信模块至并行计算中各计算节点,由各计算节点根据迭代执行队列执行相应的批量迭代任务;在迭代执行队列执行过程中,各计算节点在分配的通信模块内启动算子引擎,切分并重排张量数据,通过通信模块进行计算节点内并行张量计算,直至迭代执行队列内数据处理完毕;归集各计算节点的计算结果,得到迭代任务计算结果。采用批量划分手段将迭代批量任务划分至各个计算节点进行并行计算,实现了高效的数据处理。
本发明授权面向新一代异构超算大模型并行训练与推理适配优化方法在权利要求书中公布了:1.一种面向新一代异构超算大模型并行训练与推理适配优化方法,其特征在于,所述方法包括: 获取模型上下文关系与层间张量依赖关系,基于所述模型上下文关系与层间张量依赖关系构建有向无环依赖关系图,并根据所述有向无环依赖关系图封装算子,得到迭代执行队列; 分配通信模块至并行计算中各计算节点,由各所述计算节点根据所述迭代执行队列执行相应的批量迭代任务; 在迭代执行队列执行过程中,各所述计算节点在分配的所述通信模块内启动算子引擎,切分并重排张量数据,通过所述通信模块进行计算节点内并行张量计算,直至所述迭代执行队列内数据处理完毕; 归集各所述计算节点的计算结果,得到迭代任务计算结果; 所述获取模型上下文关系与层间张量依赖关系,基于所述模型上下文关系与层间张量依赖关系构建有向无环依赖关系图,并根据所述有向无环依赖关系图封装算子,得到迭代执行队列包括:获取模型训练与推理任务请求;响应所述模型训练与推理任务请求,获取的模型上下文信息;获取模型层间张量依赖关系,根据所述模型上下文信息以及模型层间张量依赖关系,得到用于描述本次张量计算模式的计算操作符;针对每个张量采用张量描述作为图节点,每个所述图节点封装有张量数据类型、计算操作符、指向的梯度张量描述符、以及指向的源张量描述符;提取模型最终层张量标识符中所有指向的源张量标识符,得到目标源张量标识符;根据所述目标源张量标识符逆向连接模型全部张量对应算子,生成有向无环深度依赖关系图;以模型最终层张量为初始节点采用深度优先遍历,得到迭代执行队列。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人湖南大学,其通讯地址为:410013 湖南省长沙市岳麓区麓山南路;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励