清华大学施路平获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉清华大学申请的专利神经网络模型部署方法、装置、电子设备及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115099399B 。
龙图腾网通过国家知识产权局官网在2025-06-06发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210744352.2,技术领域涉及:G06N3/063;该发明授权神经网络模型部署方法、装置、电子设备及存储介质是由施路平;曲环宇;张伟豪设计研发完成,并于2022-06-27向国家知识产权局提交的专利申请。
本神经网络模型部署方法、装置、电子设备及存储介质在说明书摘要公布了:本公开涉及一种神经网络模型部署方法、装置、电子设备及存储介质,所述方法包括获取待部署到硬件设备上的原始神经网络模型所对应的原始计算图;将原始计算图转换为基于目标算子集构成的中间计算图,目标算子集为硬件设备支持的算子集;根据硬件设备对应的硬件约束条件,将中间计算图转换为适配硬件设备的目标计算图,硬件约束条件是基于硬件设备对应的数据精度、硬件资源以及目标算子集中的至少一种所确定的;基于目标计算图,确定硬件可执行文件,硬件可执行文件用于部署到硬件设备上。本公开实施例可实现将各种原始神经网络模型高效统一地转换成能部署到硬件设备上的硬件可执行文件。
本发明授权神经网络模型部署方法、装置、电子设备及存储介质在权利要求书中公布了:1.一种神经网络模型部署方法,其特征在于,包括:获取待部署到硬件设备上的原始神经网络模型所对应的原始计算图;将所述原始计算图转换为基于目标算子集构成的中间计算图,所述目标算子集为所述硬件设备支持的算子集;根据所述硬件设备对应的硬件约束条件,将所述中间计算图转换为适配所述硬件设备的目标计算图,所述硬件约束条件是基于所述硬件设备对应的数据精度、硬件资源以及所述目标算子集中的至少一种所确定的;基于所述目标计算图,确定硬件可执行文件,所述硬件可执行文件用于部署到所述硬件设备上;其中,所述将所述原始计算图转换为基于目标算子集构成的中间计算图,包括:利用所述目标算子集中的目标算子,替换所述原始计算图中的原始计算节点,得到与所述原始计算节点等价的中间计算节点;根据所述硬件设备对应的数据存储规则,生成与所述中间计算节点关联的中间存储节点,所述数据存储规则用于指示所述硬件设备支持的数据存储方式;根据所述原始计算图中各个节点之间的数据依赖关系,建立所述中间计算节点与所述中间存储节点之间的有向边,得到所述中间计算图,其中,所述数据依赖关系表征所述原始计算图中各个节点之间的关联关系;其中,所述硬件约束条件包括:所述硬件设备的数据精度需求、硬件资源限制以及所述目标算子集的完备性需求中的至少一种,其中,所述数据精度需求表征所述硬件设备对所述目标计算图的数据精度的需求,所述硬件资源限制表征所述硬件设备对所述目标计算图所需硬件资源的限制,所述完备性需求表征所述目标算子集中目标算子不能等价替换所述中间计算图中全部的原始计算节点;其中,所述根据所述硬件设备对应的硬件约束条件,将所述中间计算图转换为适配所述硬件设备的目标计算图,包括:在所述硬件约束条件包括所述数据精度需求的情况下,对所述中间计算图的精度进行转换,得到满足所述数据精度需求的目标计算图;和或,在所述硬件约束条件包括所述硬件资源限制的情况下,对所述中间计算图的结构进行优化,得到满足指定执行效率需求的目标计算图;和或,在所述硬件约束条件包括所述目标算子集的完备性需求的情况下,根据所述目标算子集,生成与所述中间计算图近似等价的目标计算图。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人清华大学,其通讯地址为:100084 北京市海淀区清华园1号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。
请提出您的宝贵建议,有机会获取IP积分或其他奖励