买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉中昊芯英(杭州)科技有限公司申请的专利基于多芯片计算设备的模型测试系统、方法及相关设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121029631B 。

龙图腾网通过国家知识产权局官网在2026-03-20发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511565198.2，技术领域涉及：G06F11/3698；该发明授权基于多芯片计算设备的模型测试系统、方法及相关设备是由闯小明;郑瀚寻;赵文宇;杨林山设计研发完成，并于2025-10-30向国家知识产权局提交的专利申请。

本基于多芯片计算设备的模型测试系统、方法及相关设备在说明书摘要公布了：本申请提供一种多芯片计算设备的模型测试系统、方法及相关设备。该系统包括输入模块，用于获取命令行参数和配置参数；主控制模块，用于解析所述命令行参数和所述配置参数，向性能压测模块发送推理命令；API服务启动模块，用于基于解析后的命令行参数启动推理服务，性能压测模块，用于基于解析后的配置参数构建多个参数组合，分别基于每个参数组合进行推理测试，将对应的推理结果发送至所述主控制模块；所述输出模块用于输出各参数组合对应的推理结果。在本申请在测试时，用户只需输入命令行参数及配置参数，主控制模块可调度API服务启动模块配置环境变量，加载待检测模型，并分别基于各个参数组合向API推理服务进程发送推理请求并启动推理。

本发明授权基于多芯片计算设备的模型测试系统、方法及相关设备在权利要求书中公布了：1.一种基于多芯片计算设备的模型测试系统，包括：输入模块、主控制模块、API服务启动模块、性能压测模块、输出模块； 所述输入模块用于获取命令行参数和配置参数，所述命令行参数表示目标芯片编号、目标端口、待测试模型路径、目标推理框架路径，所述配置参数包括输入token长度、输出token长度、并发数、样本数量、重复测试次数，所述待测试模型为大语言模型； 所述主控制模块用于解析所述命令行参数和所述配置参数；以及，基于解析后的命令行参数向所述API服务启动模块发送启动命令，以及，响应于收到所述API服务启动模块发送的启动成功信息，基于解析后的配置参数向所述性能压测模块发送推理命令； 所述API服务启动模块用于基于解析后的命令行参数启动推理服务，并向所述主控制模块发送启动成功信息；所述API服务启动模块还用于根据目标芯片编号配置环境变量，以将待测试模型的推理任务锁定在指定的处理芯片上，以实现资源隔离和多任务并行测试； 所述性能压测模块用于接收所述推理命令，基于解析后的配置参数构建多个参数组合，以及，分别基于每个参数组合进行推理测试，并将每个参数组合对应的推理结果发送至所述主控制模块；其中，所述多个参数组合包括所述配置参数中的全部组合情况； 所述主控制模块还用于接收各参数组合对应的推理结果，并将各参数组合对应的推理结果发送至所述输出模块； 所述输出模块用于输出各参数组合对应的推理结果。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中昊芯英(杭州)科技有限公司，其通讯地址为：310052 浙江省杭州市滨江区长河街道聚才路239号6幢19层；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。