中科加禾(北京)科技有限公司朱天阳获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中科加禾(北京)科技有限公司申请的专利模型部署方案生成、模型处理方法、装置及电子设备获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119396413B 。
龙图腾网通过国家知识产权局官网在2025-07-15发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411303641.4,技术领域涉及:G06F8/60;该发明授权模型部署方案生成、模型处理方法、装置及电子设备是由朱天阳;吴震宇设计研发完成,并于2024-09-18向国家知识产权局提交的专利申请。
本模型部署方案生成、模型处理方法、装置及电子设备在说明书摘要公布了:本申请实施例提供了一种模型部署方案生成、模型处理方法、装置及电子设备,涉及模型部署、大语言模型等技术领域。具体实现方案为:获取目标设备中各处理器的处理器参数,目标设备用于部署待部署模型;基于模型信息以及处理器参数,生成部署方案,部署方案包括第一指定信息,待部署模型包括多个处理层,第一指定信息用于指定各处理层的模型权重所部署的处理器。基于本申请实施例提供的部署方案,能够实现对目标设备中处理器资源的合理调配的合理调配,从而实现模型在目标设备的合理部署。
本发明授权模型部署方案生成、模型处理方法、装置及电子设备在权利要求书中公布了:1.一种模型部署方案生成方法,其特征在于,包括: 获取待部署模型的模型信息; 获取目标设备中各处理器的处理器参数,所述目标设备用于部署所述待部署模型; 基于所述模型信息以及所述处理器参数,生成部署方案,所述部署方案包括第一指定信息,所述待部署模型包括多个处理层,所述第一指定信息用于指定各所述处理层的模型权重所部署的处理器; 所述部署方案还包括第二指定信息,所述第二指定信息用于指定执行各所述处理层对应模型计算的处理器,所述第二指定信息包括理解阶段第二指定信息,所述理解阶段第二指定信息用于指定在理解阶段执行各所述处理层对应模型计算的处理器; 所述第二指定信息包括生成阶段第二指定信息,所述生成阶段第二指定信息用于指定在生成阶段执行各所述处理层对应模型计算的处理器为第一处理器,所述第一处理器为各所述处理层对应模型权重所部署的处理器。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中科加禾(北京)科技有限公司,其通讯地址为:100080 北京市海淀区中关村大街1号13层1305室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。
请提出您的宝贵建议,有机会获取IP积分或其他奖励