华为云计算技术有限公司阿明·巴尼塔莱比·德科迪获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉华为云计算技术有限公司申请的专利用于分布式系统推理的深度学习模型的划分和位宽分配的方法和系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115104108B 。
龙图腾网通过国家知识产权局官网在2025-11-11发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202180013713.X,技术领域涉及:G06N3/045;该发明授权用于分布式系统推理的深度学习模型的划分和位宽分配的方法和系统是由阿明·巴尼塔莱比·德科迪;纳文·韦杜拉;张勇;王岚君设计研发完成,并于2021-03-05向国家知识产权局提交的专利申请。
本用于分布式系统推理的深度学习模型的划分和位宽分配的方法和系统在说明书摘要公布了:提供了用于将训练后的神经网络划分成用于在第一设备上执行的第一神经网络和用于在第二设备上执行的第二神经网络的系统和方法。执行所述划分,以在精度约束内优化以下操作的总体延迟:在所述第一设备上执行所述第一神经网络以基于输入数据生成特征图输出,将所述特征图输出从所述第一设备发送到所述第二设备,以及在所述第二设备上执行所述第二神经网络以基于所述第一设备的所述特征图输出生成推理输出。
本发明授权用于分布式系统推理的深度学习模型的划分和位宽分配的方法和系统在权利要求书中公布了:1.一种用于将训练后的神经网络划分成用于在第一设备上执行的第一神经网络和用于在第二设备上执行的第二神经网络的方法,所述第一设备的计算能力低于所述第二设备的计算能力,其特征在于,所述方法包括: 从所述训练后的神经网络中识别用于包括在所述第一神经网络中的一个或多个神经网络层的第一集合,以及从所述训练后的神经网络中识别用于包括在所述第二神经网络中的一个或多个神经网络层的第二集合; 为配置一个或多个神经网络层的所述第一集合的权重分配权重位宽,为由一个或多个神经网络层的所述第一集合生成的特征图分配特征图位宽; 执行所述识别和所述分配,以在精度约束内优化以下操作的总体延迟:在所述第一设备上执行所述第一神经网络以基于输入数据生成特征图输出,将所述特征图输出从所述第一设备发送到所述第二设备,以及在所述第二设备上执行所述第二神经网络以基于所述第一设备的所述特征图输出生成推理输出。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人华为云计算技术有限公司,其通讯地址为:550025 贵州省贵阳市贵安新区黔中大道交兴功路华为云数据中心;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励