买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉苏州元脑智能科技有限公司申请的专利推理服务资源配置方法、电子设备及可读存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120743558B 。

龙图腾网通过国家知识产权局官网在2025-11-21发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511232793.4，技术领域涉及：G06F9/50；该发明授权推理服务资源配置方法、电子设备及可读存储介质是由王德奎设计研发完成，并于2025-08-29向国家知识产权局提交的专利申请。

本推理服务资源配置方法、电子设备及可读存储介质在说明书摘要公布了：本申请公开了一种推理服务资源配置方法、电子设备及可读存储介质，涉及计算机技术领域，包括获取推理服务的模型文件，解析模型文件以确定运行推理服务所需的最小存储资源需求；确定满足最小存储资源需求的资源规格，资源规格用于表征运行推理服务所需的节点及节点对应的存储资源配置；根据推理集群中节点的存储资源状态，确定与资源规格相匹配的资源配置策略，并按照资源配置策略在推理集群中配置存储资源，以运行推理服务，解决了在对推理服务进行资源配置时自动化程度低以及存储资源的利用率差的技术问题，降低了人工操作的误差风险与成本，还提高了存储资源的利用率。

本发明授权推理服务资源配置方法、电子设备及可读存储介质在权利要求书中公布了：1.一种推理服务资源配置方法，其特征在于，包括： 在存在一个推理服务的情况下，获取推理服务的模型文件，解析所述模型文件以确定运行所述推理服务所需的最小存储资源需求； 确定满足所述最小存储资源需求的资源规格，所述资源规格用于表征运行所述推理服务所需的节点及所述节点对应的存储资源配置； 根据推理集群中节点的存储资源状态，确定与所述资源规格相匹配的资源配置策略，并按照所述资源配置策略在所述推理集群中配置存储资源，以运行所述推理服务； 在存在多个推理服务的情况下，获取所述多个推理服务的模型文件，并分别解析所述模型文件，以确定运行所述多个推理服务分别所需的最小存储资源需求； 基于推理集群中节点的存储资源状态，分别确定与任一推理服务对应的一或多个候选资源规格； 基于所述多个推理服务各自对应的候选资源规格，组合生成多种全局资源配置策略； 从所述多种全局资源配置策略中，筛选能够运行最多推理服务的目标全局资源配置策略； 根据所述目标全局资源配置策略配置存储资源，以运行所述多个推理服务； 在推理服务的运行过程中，采集所述推理服务的推理性能参数； 基于所述推理性能参数与预设阈值的比较结果，自动触发所述存储资源的扩容操作，以优化所述推理服务的推理性能； 所述推理性能参数至少包括首词元时间以及每词元时间；所述基于所述推理性能参数与预设阈值的比较结果，自动触发所述存储资源的扩容操作，包括： 在所述首词元时间超过首词元时间标准值的情况下，增加推理服务在预填充阶段部署的推理服务实例的数量，以对所述推理服务进行扩容； 在所述每词元时间超过每词元时间标准值的情况下，增加推理服务在解码阶段部署的推理服务实例的数量，以对所述推理服务进行扩容。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人苏州元脑智能科技有限公司，其通讯地址为：215000 江苏省苏州市吴中经济开发区综保区经一路1号8幢；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。