卓世智星(青田)元宇宙科技有限公司谭帅获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉卓世智星(青田)元宇宙科技有限公司申请的专利一种基于任务的模型推理方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119294530B 。
龙图腾网通过国家知识产权局官网在2025-06-27发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411817302.8,技术领域涉及:G06N5/04;该发明授权一种基于任务的模型推理方法及装置是由谭帅;屠静;王亚设计研发完成,并于2024-12-11向国家知识产权局提交的专利申请。
本一种基于任务的模型推理方法及装置在说明书摘要公布了:本发明提供一种基于任务的模型推理方法及装置,涉及人工智能技术领域。所述方法包括:获取待处理数据以及待处理数据对应的任务标识;利用任务标识,获取待处理数据对应的索引集合;利用所述任务标识,获取待处理数据对应的任务矩阵;以推理模型中的所有推理层对应的层任务矩阵,对待处理数据进行变换处理,得到所述待处理数据的推理结果。本发明中,预设索引和层任务矩阵均和任务标识相关,可确保不同的任务场景下的推理性能,利用具有预设索引的推理层的层任务矩阵对待处理数据进行处理,无需使用所有模型层处理,可有效降低不必要的计算,提升推理效率。
本发明授权一种基于任务的模型推理方法及装置在权利要求书中公布了:1.一种基于任务的模型推理方法,其特征在于,所述方法包括: 获取待处理数据以及所述待处理数据对应的任务标识,所述待处理数据是文本、图像、视频中的一种或多种; 利用预设任务标识和预设索引集合之间的第一关联关系以及所述任务标识,获取所述待处理数据对应的索引集合,所述索引集合中包括多个预设索引; 利用所述任务标识,获取所述待处理数据对应的任务矩阵,所述任务矩阵中包括与所述预设索引关联的层任务矩阵; 以推理模型中的所有推理层对应的层任务矩阵,对所述待处理数据进行变换处理,得到所述待处理数据的推理结果,所述推理层在所述推理模型中的层索引为所述预设索引; 其中,所述第一关联关系通过如下步骤获取到: 获取预设任务标识对应的第一任务数据集;利用所述推理模型中的所有模型层对所述第一任务数据集进行第一推理,以获取所述推理模型的基准性能参数,以及每个模型层的层输入向量;针对所述推理模型中的每个所述模型层,利用除了所述模型层之外的其他模型层对所述第一任务数据集进行第二推理,以得到所述模型层对应的层性能参数;将所述基准性能参数以及层性能参数作为所述推理模型的指定性能参数;利用所述指定性能参数以及每个模型层的层输入向量,计算在所述第一任务数据集下,每个模型层的重要性参数;基于每个模型层的层输入向量以及推理资源消耗量,计算目标数量;按照所述重要性参数从所述推理模型中的多个模型层中确定目标数量个推理层,并将所述推理层的索引作为所述预设任务标识对应的预设索引集合。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人卓世智星(青田)元宇宙科技有限公司,其通讯地址为:323999 浙江省丽水市青田县瓯南街道百悦城5幢1503-31室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。