和硕联合科技股份有限公司张森皓获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉和硕联合科技股份有限公司申请的专利推论模型部署系统及推论模型部署方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116644812B 。
龙图腾网通过国家知识产权局官网在2025-11-11发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211606474.1,技术领域涉及:G06N5/04;该发明授权推论模型部署系统及推论模型部署方法是由张森皓;郑捷轩设计研发完成,并于2022-12-12向国家知识产权局提交的专利申请。
本推论模型部署系统及推论模型部署方法在说明书摘要公布了:本公开提供一种推论模型部署系统及推论模型部署方法。所述方法包括:取得推论模型的多个模型设定每一者的预估资源用量;取得产能需求;基于产能需求、边缘计算装置的装置规格以及各模型设定的预估资源用量,挑选所述多个模型设定的其中之一作为特定模型设定;以及将经组态为特定模型设定的推论模型部署至边缘计算装置。由此,本公开实施例的作法可更为准确地评估适合部署至边缘计算装置的推论模型。
本发明授权推论模型部署系统及推论模型部署方法在权利要求书中公布了:1.一种推论模型部署系统,适以部署推论模型,其特征在于,所述推论模型部署系统包括: 边缘计算装置;以及 模型管理服务器,通讯耦接至所述边缘计算装置,所述模型管理服务器经配置以: 取得所述推论模型的多个模型设定每一者的预估资源用量; 取得产能需求; 基于所述产能需求、所述边缘计算装置的装置规格以及各所述模型设定的所述预估资源用量,挑选所述多个模型设定的其中之一作为特定模型设定,包括: 基于各所述模型设定的所述预估资源用量、所述边缘计算装置的所述装置规格及测试规格产生第一参考数值; 基于所述产能需求产生第二参考数值; 比较所述第一参考数值及所述第二参考数值,以从所述多个模型设定中挑选至少一候选模型设定;以及 依据默认原则从所述至少一候选模型设定挑选所述特定模型设定;以及 将经组态为所述特定模型设定的所述推论模型部署至所述边缘计算装置。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人和硕联合科技股份有限公司,其通讯地址为:中国台湾台北市北投区立功街76号5楼;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励