苏州元脑智能科技有限公司许荣飞获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉苏州元脑智能科技有限公司申请的专利模型加卸载方法及电子设备获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120909807B 。
龙图腾网通过国家知识产权局官网在2026-03-06发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511446095.4,技术领域涉及:G06F9/50;该发明授权模型加卸载方法及电子设备是由许荣飞;苏志远;曹柱;吴保锡;张百林设计研发完成,并于2025-10-10向国家知识产权局提交的专利申请。
本模型加卸载方法及电子设备在说明书摘要公布了:本申请公开了一种模型加卸载方法及电子设备,涉及服务器资源管理技术领域,该方法包括:根据历史运行过程数据将各前馈神经子网络按预设次序逐层预加载到预设硬件上;根据预设时间间隔对第一资源使用信息、第二资源使用信息和存储器使用信息进行第一计算,得到第一资源使用函数值;根据预设时间间隔对第二资源使用信息和存储器使用信息进行第二计算,得到第二资源使用函数值;当检测到第二资源使用函数值小于第二预定义资源使用函数值阈值下界,则将运行过程中的前馈神经子网络从第一处理器卸载到第二处理器。本发明解决解决相关技术中模型中各子网络在服务器各硬件中分布不均衡导致模型反馈效率低的问题。
本发明授权模型加卸载方法及电子设备在权利要求书中公布了:1.一种模型加卸载方法,其特征在于,所述模型包括多个前馈神经子网络,所述方法包括: 获取所述模型的各前馈神经子网络运行时的历史运行过程数据; 根据所述历史运行过程数据将各前馈神经子网络按预设次序逐层预加载到预设硬件上,其中所述预设硬件包括第一处理器、第二处理器和存储器; 在所述模型的运行过程中,根据预设时间间隔实时获取模型信息、所述第一处理器的第一资源使用信息、所述第二处理器的第二资源使用信息、存储器使用信息和前馈神经子网络权重参数调度信息; 根据所述预设时间间隔对所述第一资源使用信息、所述第二资源使用信息和所述存储器使用信息进行第一计算,得到第一资源使用函数值; 当检测到所述第一资源使用函数值大于第一预定义资源阈值上界,则根据所述预设时间间隔对所述第二资源使用信息和所述存储器使用信息进行第二计算,得到第二资源使用函数值; 当检测到所述第二资源使用函数值小于第二预定义资源使用函数值阈值下界,则将运行过程中的前馈神经子网络从所述第一处理器卸载到所述第二处理器; 所述将运行过程中的前馈神经子网络从所述第一处理器卸载到所述第二处理器,包括: 将运行过程中的前馈神经子网络进行图形处理加载信息采集,得到所述第一处理器上各前馈神经子网络的待计算图形处理加载信息数据; 根据所述待计算图形处理加载信息数据,计算各前馈神经子网络对应的图形卸载收益比; 根据各前馈神经子网络对应的图形卸载收益比,选择其中数值最大的图形处理收益比对应的前馈神经子网络作为待卸载前馈神经子网络; 将所述待卸载前馈神经子网络卸载到所述第二处理器,并将所述待卸载前馈神经子网络位于其余各第一处理器上的前馈神经子网络权重参数进行卸载;其中,确定所述前馈神经子网络卸载收益比的计算公式为: 卸载收益比=卸载的前馈神经子网络权重参数规模×前馈神经子网络卸载频率前馈神经子网络卸载时间+δ×专家驻留时间×前馈神经子网络激活频率×前馈神经子网络命中率; 式中,所述δ为预先设定的系数值。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人苏州元脑智能科技有限公司,其通讯地址为:215000 江苏省苏州市吴中经济开发区综保区经一路1号8幢;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励