Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
专利交易 商标交易 积分商城 国际服务 IP管家助手 科技果 科技人才 会员权益 需求市场 关于龙图腾 更多
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 深圳行胜数字技术有限公司郭沙获国家专利权

深圳行胜数字技术有限公司郭沙获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉深圳行胜数字技术有限公司申请的专利一种面向大模型的异构算力自适应编译方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121683959B

龙图腾网通过国家知识产权局官网在2026-04-21发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202610175570.7,技术领域涉及:G06N3/10;该发明授权一种面向大模型的异构算力自适应编译方法及系统是由郭沙;庞镇镇设计研发完成,并于2026-02-06向国家知识产权局提交的专利申请。

一种面向大模型的异构算力自适应编译方法及系统在说明书摘要公布了:本发明提供一种面向大模型的异构算力自适应编译方法,包括用户通过系统接口输入一个已训练好的大模型,系统前端转换模块将该模型的计算图解析并转换为基于统一算子描述语言UDL的中间表示;系统硬件感知模块自动探测并提取至少一个目标硬件的硬件特征指纹;基于统一算子描述语言UDL中间表示和硬件特征指纹,自动生成面向至少一个目标硬件的优化适配规则;其中,参数化填充的依据包括硬件特征指纹的具体参数和统一算子描述语言UDL中间表示中携带的优化属性标签;多后端代码生成与部署。本发明的有益效果:能够实现基于硬件特征的智能编译,显著提升了大模型在复杂异构算力集群中的部署效率与运行性能。

本发明授权一种面向大模型的异构算力自适应编译方法及系统在权利要求书中公布了:1.一种面向大模型的异构算力自适应编译方法,包括如下步骤: 步骤1,模型输入与UDL转换,用户通过系统接口输入一个已训练好的大模型,系统前端转换模块将该模型的计算图解析并转换为基于统一算子描述语言UDL的中间表示;统一算子描述语言UDL为声明式语言,其用于描述原子算子的数据结构至少包括操作符、输入输出张量描述以及用于承载优化意图的属性标签字段,所述属性标签字段用于为步骤3中的参数化填充提供优化约束与建议; 步骤2,硬件特征指纹提取,系统硬件感知模块自动探测并提取至少一个目标硬件的硬件特征指纹,该硬件特征指纹包括目标硬件的指令集架构、内存层级结构以及计算单元数量; 步骤3,自适应规则生成,基于统一算子描述语言UDL中间表示和硬件特征指纹,通过预置的规则模板库进行匹配和参数化填充,自动生成面向至少一个目标硬件的优化适配规则;其中,参数化填充的依据包括硬件特征指纹的具体参数和统一算子描述语言UDL中间表示中携带的优化属性标签;当统一算子描述语言UDL中间表示中的算子被标记为通信感知时,生成优化适配规则的过程还包括结合集群内硬件间的互连带宽与通信延迟矩阵,在代价模型中同步计算计算开销与通信开销,以生成使计算与通信重叠的分布式算子切分与调度规则; 步骤4,多后端代码生成与部署,多后端代码生成器接收优化后的统一算子描述语言UDL子图和对应的硬件特定规则,并根据该硬件特定规则,将统一算子描述语言UDL中间表示编译生成能够在至少一个目标硬件上执行的目标代码; 其中,在所述步骤3中,通过预置的规则模板库进行匹配和参数化填充还包括以下步骤: 步骤301,根据统一算子描述语言UDL中间表示中的算子类型和硬件特征指纹中的硬件架构类型,从规则模板库中匹配出对应的参数化规则模板; 步骤302,基于硬件特征指纹中的内存层级参数和计算单元参数,并结合统一算子描述语言UDL中间表示中的属性标签,通过代价模型计算并填充参数化规则模板中的待定参数,形成候选适配规则; 步骤303,利用性能预估模型对候选适配规则生成的候选代码进行评估,若性能不达标,则调整待定参数并重新生成候选适配规则进行迭代优化。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人深圳行胜数字技术有限公司,其通讯地址为:518000 广东省深圳市南山区沙河街道深超总社区深湾二路82号神州数码国际创新中心东塔1416;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。