买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉华为技术有限公司申请的专利一种请求调度方法和设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119324944B 。

龙图腾网通过国家知识产权局官网在2025-10-28发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411341791.4，技术领域涉及：H04L67/63；该发明授权一种请求调度方法和设备是由马翼鹏;汪涛;彭勇;周剑辉设计研发完成，并于2023-10-24向国家知识产权局提交的专利申请。

本一种请求调度方法和设备在说明书摘要公布了：本发明公开了一种请求调度方法和设备，所述方法包括：第一设备接收第一用户的第一请求，第一请求为第一服务的请求，第一请求包括第一服务的标识；第一设备将第一请求调度至第二设备；第二设备向第一设备发送第二请求，第二请求包括第一服务的标识和第一输出信息，第二请求与第一请求相关联；当第一输出信息不满足设定的条件时，第一设备将第二请求调度至第三设备，第三设备与第二设备不同；第三设备向第一设备发送第三请求，第三请求包括第一服务的标识和第二输出信息，第三请求与第二请求相关联；当第二输出信息不满足所述设定的条件时，第一设备将第三请求调度至第三设备，能够提升大规模语言模型服务部署中的服务系统的吞吐量。

本发明授权一种请求调度方法和设备在权利要求书中公布了：1.一种请求调度方法，其特征在于，应用于请求调度系统，所述方法包括： 第一设备接收来自第一用户的第一请求，所述第一请求为第一服务的请求，所述第一请求包括所述第一服务的标识； 所述第一设备将所述第一请求调度至第二设备； 所述第二设备在推理过程中生成缓存信息，所述第二设备向第三设备发送所述缓存信息； 所述第二设备向所述第一设备发送第二请求，所述第二请求包括所述第一服务的标识以及所述第一服务对应的第一输出信息，所述第二请求与所述第一请求相关联； 当所述第一输出信息不满足设定的条件时，所述第一设备将所述第二请求调度至所述第三设备，所述第三设备与所述第二设备不同； 所述第三设备根据所述缓存信息，得到第三请求； 所述第三设备向所述第一设备发送所述第三请求，所述第三请求包括所述第一服务的标识以及所述第一服务对应的第二输出信息，所述第三请求与所述第二请求相关联； 当所述第二输出信息不满足所述设定的条件时，所述第一设备将所述第三请求调度至所述第三设备。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人华为技术有限公司，其通讯地址为：518129 广东省深圳市龙岗区坂田华为总部办公楼；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。