宏景科技股份有限公司刘林获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉宏景科技股份有限公司申请的专利一种推理请求调度方法、系统、电子设备及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120849134B 。
龙图腾网通过国家知识产权局官网在2025-12-23发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511351852.X,技术领域涉及:G06F9/50;该发明授权一种推理请求调度方法、系统、电子设备及存储介质是由刘林;吴淼;李相国;姚占兵;刘洋;冯敏设计研发完成,并于2025-09-22向国家知识产权局提交的专利申请。
本一种推理请求调度方法、系统、电子设备及存储介质在说明书摘要公布了:本申请涉及数据处理领域,具体涉及一种推理请求调度方法、系统、电子设备及存储介质,包括:采集推理任务请求;提取推理任务请求的文本特征向量;根据文本特征向量,获取各推理任务请求之间的特征相似度;利用文本特征向量,预测在处理推理任务请求后所生成输出文本的长度,作为预测长度;根据预测长度和特征相似度,对推理任务请求进行分组;根据所述分组对推理任务请求进行调度处理。与现有技术相比,本申请通过利用推理任务请求的预测长度和特征相似度,对推理任务请求进行分组,能够有效地使每个分组的推理任务请求的预测长度差较小且特征相似度较大,进而能够有效地提高分组中推理任务请求的处理效率。
本发明授权一种推理请求调度方法、系统、电子设备及存储介质在权利要求书中公布了:1.一种推理请求调度方法,其特征在于,所述方法包括: 采集推理任务请求; 提取所述推理任务请求的文本特征向量; 根据所述文本特征向量,获取各所述推理任务请求之间的特征相似度; 利用所述文本特征向量,预测在处理所述推理任务请求后所生成输出文本的长度,作为预测长度; 根据所述预测长度和所述特征相似度,对所述推理任务请求进行分组; 对于每个分组,根据所述推理任务请求的预测长度的最大值获取对应分组的第一调度指标; 利用所述第一调度指标确定每个分组的填充指标; 根据所述填充指标对所述第一调度指标进行调整,得到每个分组的第二调度指标; 利用所述分组的第二调度指标和所述分组中的推理任务请求数量,计算对应分组所需的空间大小,并根据所述空间大小为对应分组分配资源处理空间; 将所述推理任务请求按照所述分组调度至对应的所述资源处理空间。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人宏景科技股份有限公司,其通讯地址为:510000 广东省广州市黄埔区映日路111号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励