湖南大学全哲获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉湖南大学申请的专利一种面向可重构AI芯片的神经网络推理部署方法和系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119918676B 。
龙图腾网通过国家知识产权局官网在2025-10-21发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510108830.4,技术领域涉及:G06N5/04;该发明授权一种面向可重构AI芯片的神经网络推理部署方法和系统是由全哲;杨帆设计研发完成,并于2025-01-23向国家知识产权局提交的专利申请。
本一种面向可重构AI芯片的神经网络推理部署方法和系统在说明书摘要公布了:本发明公开了一种面向可重构AI芯片的神经网络推理部署方法,通过使用深度学习框架对应的ONNX库将训练好的模型导出为ONNX格式,对ONNX格式模型进行解析以获取网络拓扑结构、算子信息和总控信息,根据算子信息对每个算子进行划分得到划分结果;结合网络拓扑结构对算子划分结果进行组装拼接获取任务信息等步骤,充分利用可重构AI芯片的硬件资源;最终将总控信息和所有算子的任务信息组织成最终的可执行文件,高效完成神经网络模型在可重构AI芯片上的推理部署。本发明能够解决现有开发特定AI芯片架构编译器开发门槛高,效率低的技术问题,以及现有自动代码生成方法可能无法充分利用芯片性能的技术问题。
本发明授权一种面向可重构AI芯片的神经网络推理部署方法和系统在权利要求书中公布了:1.一种面向可重构AI芯片的神经网络推理部署方法,其特征在于,包括以下步骤: 1获取训练好的模型及其对应的可执行文件,并使用深度学习框架对应的开放神经网络交换ONNX库将训练好的模型导出为ONNX格式的模型; 2对步骤1得到的ONNX格式的模型进行解析,以得到该模型的网络拓扑结构,从该网络拓扑结构中拆分出所有算子的算子信息,并根据网络拓扑结构及算子信息获取该模型对应的可执行文件中的总控信息,算子包括卷积类型算子、池化类型算子和全连接类型算子三种类型; 3根据步骤2得到的算子信息对每个算子进行算子划分,以得到该算子对应的算子划分结果;步骤3包括以下子步骤: 3-1获取可重构AI芯片算子库,根据该可重构AI芯片算子库为步骤2获取的每个算子创建对应的基础算子,所有算子对应的基础算子构成基础算子库; 3-2设置计数器i=1; 3-3判断i是否大于步骤2从网络拓扑结构中拆分出的所有算子的总数,如果是则过程结束,否则转入步骤3-4; 3-4根据步骤2从网络拓扑结构中拆分出的所有算子中的第i个算子,并判断是否能够从步骤3-1得到的基础算子库中获取到该第i个算子对应的基础算子,如果是则转入步骤3-6,否则转入步骤3-5; 3-5从步骤3-1得到的基础算子库中选择和步骤2得到的第i个算子的卷积核尺寸相同、输入通道数相同的基础算子,对第i个算子的输入特征图中不能被该基础算子完全覆盖的部分用0进行填充处理; 3-6根据第i个算子对应的基础算子对该第i个算子对应的输入特征图进行分块划分,以得到第i个算子的划分结果; 3-7设置i=i+1,并返回步骤3-3; 4将步骤3得到的所有算子的划分结果进行组装拼接,以获取所有算子的任务信息; 5将步骤2得到的总控信息以及步骤4得到的所有算子的任务信息组织成最终的可执行文件。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人湖南大学,其通讯地址为:410082 湖南省长沙市岳麓区麓山南路1号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励