买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉深圳市智慧城市科技发展集团有限公司申请的专利基于路由技术的大语言模型高效混合推理方法、设备及存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119961424B 。

龙图腾网通过国家知识产权局官网在2025-08-12发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510450995.X，技术领域涉及：G06F16/3329；该发明授权基于路由技术的大语言模型高效混合推理方法、设备及存储介质是由张晓春;王刚;邹若奇;宋家骅设计研发完成，并于2025-04-10向国家知识产权局提交的专利申请。

本基于路由技术的大语言模型高效混合推理方法、设备及存储介质在说明书摘要公布了：本申请公开了一种数据处理，涉及基于路由技术的大语言模型高效混合推理方法、设备及存储介质技术领域，所述基于路由技术的大语言模型高效混合推理包括：若接收到用户请求，确定所述用户请求与缓存库中各历史请求之间的相似度；若不存在所述相似度超过相似度阈值，基于准确率评分模型确定各待选处理模型的评分指标，所述评分指标包括准确率、响应时间以及接口费用；根据所述评分指标确定各所述待选处理模型的综合得分；根据所述综合得分于各所述待选处理模型中选取目标模型，并将所述用户请求路由至所述目标模型。本申请达成了优化大语言模型的选择以实现用户请求的高效响应的技术效果。

本发明授权基于路由技术的大语言模型高效混合推理方法、设备及存储介质在权利要求书中公布了：1.一种基于路由技术的大语言模型高效混合推理方法，其特征在于，所述的基于路由技术的大语言模型高效混合推理方法包括： 若接收到用户请求，确定所述用户请求与缓存库中各历史请求之间的相似度； 收集开源问答数据和业务真实问答数据，构建数据集； 将每一条问答数据中的问题输入到各待选处理模型中，通过每个所述待选处理模型进行推理回答，生成至少一种回答结果； 将各所述待选处理模型生成的每种所述回答结果，与所述问答数据中的标准回答进行比较，计算准确率得分； 对于各所述待选处理模型，根据所述准确率得分计算方差，并根据准确率得分相应的得分权重，以及所述方差相应的方差权重，计算加权得分； 比较各所述待选处理模型的所述加权得分，将所述加权得分最高的所述待选处理模型作为对应的所述问答数据的分类标注； 加载预训练的准确率评分模型，并将所述准确率评分模型的分类头调整为所述待选处理模型对应数量的分类任务； 通过分类标注的所述问答数据对所述准确率评分模型进行训练； 若不存在所述相似度超过相似度阈值，基于所述准确率评分模型确定各所述待选处理模型的评分指标，所述评分指标包括准确率、响应时间以及接口费用； 根据所述评分指标确定各所述待选处理模型的综合得分； 根据所述综合得分于各所述待选处理模型中选取目标模型，并将所述用户请求路由至所述目标模型。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人深圳市智慧城市科技发展集团有限公司，其通讯地址为：518000 广东省深圳市福田区华富街道莲花一村社区皇岗路5001号深业上城(南区)T1栋12层；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。