苏州元脑智能科技有限公司孟秋获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉苏州元脑智能科技有限公司申请的专利任务执行方法、电子设备、介质、程序产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120276833B 。
龙图腾网通过国家知识产权局官网在2025-08-12发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510773133.0,技术领域涉及:G06F9/48;该发明授权任务执行方法、电子设备、介质、程序产品是由孟秋;罗建刚;赵旭东;吴韶华设计研发完成,并于2025-06-11向国家知识产权局提交的专利申请。
本任务执行方法、电子设备、介质、程序产品在说明书摘要公布了:本发明提供了一种任务执行方法、电子设备、介质、程序产品,涉及人工智能技术领域。该任务执行方法包括:响应于接收到多个推理请求,将基于多个推理请求生成的多个推理任务划分为N个批次,其中,各推理任务包括拟依次执行的计算子任务和后处理子任务;依次执行N个批次的推理任务,得到任务执行结果,其中,执行第n批次的推理任务包括:向计算单元发送第n批次计算子任务;在计算单元执行完第n批次计算子任务的情况下,向计算单元发送第n+1批次计算子任务以及在计算单元执行第n+1批次计算子任务的过程中,同步执行第n批次后处理子任务。该任务执行方法可以提高计算资源利用率。
本发明授权任务执行方法、电子设备、介质、程序产品在权利要求书中公布了:1.一种任务执行方法,其特征在于,所述方法包括: 响应于接收到多个推理请求,将基于所述多个推理请求生成的多个推理任务划分为N个批次,其中,各所述推理任务包括拟依次执行的计算子任务和后处理子任务,N为大于2的整数;所述推理任务用于指示:调用预定语言模型基于所述推理请求中携带的请求数据进行语义推理生成语义推理结果; 依次执行N个批次的推理任务,得到任务执行结果,其中,执行第n批次的推理任务包括: 通过执行第n批次前处理子任务,调用预定语言模型中的嵌入层对第n批次请求数据进行编码处理,生成基础词向量,其中,所述第n批次请求数据携带于针对第n批次推理任务的推理请求中; 向计算单元发送第n批次计算子任务,以便所述计算单元通过执行所述第n批次计算子任务调用所述预定语言模型中的注意力层和映射层,对所述基础词向量进行处理,生成多个候选词向量以及所述多个候选词向量各自的概率分布; 在所述计算单元执行完所述第n批次计算子任务的情况下,向所述计算单元发送第n+1批次计算子任务以及在所述计算单元执行所述第n+1批次计算子任务的过程中,同步执行第n批次后处理子任务,n=1,…,N-2。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人苏州元脑智能科技有限公司,其通讯地址为:215000 江苏省苏州市吴中经济开发区综保区经一路1号8幢;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。