上海云从汇临人工智能科技有限公司朱蕾获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉上海云从汇临人工智能科技有限公司申请的专利模型优化方法、设备及计算机存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN114048855B 。
龙图腾网通过国家知识产权局官网在2025-07-15发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202111193027.3,技术领域涉及:G06N5/04;该发明授权模型优化方法、设备及计算机存储介质是由朱蕾设计研发完成,并于2021-10-13向国家知识产权局提交的专利申请。
本模型优化方法、设备及计算机存储介质在说明书摘要公布了:本申请提供一种模型优化方法、设备及计算机存储介质,主要包括针对目标模型中的各算子执行解耦处理,获得目标模型的解耦模型;针对解耦模型中的各算子以及各算子之间的推理数据执行结构反射处理,获得解耦模型的反射模型;针对反射模型执行异构量化处理,获得包含多条候选推理路径的异构量化模型;利用各候选推理路径针对预设测试任务分别执行推理分析,以确定异构量化模型的最优推理路径;基于最优推理路径,获得目标模型的优化模型。借此,本申请可有效提升模型的运算速度。
本发明授权模型优化方法、设备及计算机存储介质在权利要求书中公布了:1.一种模型优化方法,其特征在于,包括: 针对目标模型中的各算子执行解耦处理,获得所述目标模型的解耦模型; 针对所述解耦模型中的各所述算子以及各所述算子之间的推理数据执行结构反射处理,获得所述解耦模型的反射模型; 针对所述反射模型执行异构量化处理,获得包含多条候选推理路径的异构量化模型; 根据所述异构量化模型中各所述候选推理路径对应的各推理耗时,确定所述异构量化模型的最优推理路径;以及 基于所述最优推理路径,获得所述目标模型的优化模型; 所述针对所述反射模型执行异构量化处理,获得包含多条候选推理路径的异构量化模型包括: 针对所述反射模型中每一个所述算子,分别配置多个预设量化方式;基于预设影响因子,设定各所述预设量化方式对应的各权重参数;其中,所述预设影响因子包括硬件架构对应于所述算子的亲核性、CPU对应于所述算子的亲和性中的至少一个; 任意组合各所述算子对应的各所述预设量化方式,以构建包含多条所述候选推理路径的所述异构量化模型。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人上海云从汇临人工智能科技有限公司,其通讯地址为:200120 上海市浦东新区南汇新城镇环湖西二路888号C楼;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。