苏州元脑智能科技有限公司段艳云获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉苏州元脑智能科技有限公司申请的专利模型推理方法、装置、设备、介质和程序产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120031140B 。
龙图腾网通过国家知识产权局官网在2026-04-07发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510232208.4,技术领域涉及:G06N5/04;该发明授权模型推理方法、装置、设备、介质和程序产品是由段艳云设计研发完成,并于2025-02-28向国家知识产权局提交的专利申请。
本模型推理方法、装置、设备、介质和程序产品在说明书摘要公布了:本申请提供了一种模型推理方法,可以应用于人工智能领域。该模型推理方法包括:获取推理信息;将推理信息输入包括多个网络层的预设模型中,以根据多个网络层之间的时序依赖关系对推理信息依次进行推理处理,其中,多个网络层中的每个网络层分别包括主线程和多个从线程,主线程和多个从线程用于对输入网络层的数据进行多维度的并行处理;针对每个网络层,在确定主线程接收到多个从线程各自反馈的处理状态的情况下,向下一网络层传递网络层输出的推理数据,以使得下一网络层继续进行推理处理;在确定多个网络层均完成推理处理的情况下,输出与推理信息对应的推理结果。本申请还提供了一种模型推理装置、设备、存储介质和程序产品。
本发明授权模型推理方法、装置、设备、介质和程序产品在权利要求书中公布了:1.一种模型推理方法,其特征在于,所述方法包括: 获取推理信息; 将所述推理信息输入包括多个网络层的预设模型中,以根据多个所述网络层之间的时序依赖关系对所述推理信息依次进行推理处理,其中,所述多个网络层中的每个网络层分别包括主线程和多个从线程,所述主线程和多个所述从线程用于对输入所述网络层的数据进行多维度的并行处理,所述主线程还用于管理和协调所述从线程的工作; 针对每个所述网络层,根据所述预设模型的模型参数,将输入所述网络层的数据拆分为多个子数据块,以对应分配给所述主线程和多个所述从线程; 在确定所述主线程通过子通信域接收到多个所述从线程各自反馈的处理状态,且基于多个所述处理状态确定所述网络层的任务执行状态为执行完成的情况下,通过主通信域向下一网络层传递所述网络层输出的推理数据,以使得所述下一网络层继续进行推理处理; 在确定多个所述网络层均完成推理处理的情况下,输出与所述推理信息对应的推理结果; 其中,所述方法还包括: 针对每个所述网络层,将所述网络层中第一子数据块对应的线程确定为主线程;并将除所述第一子数据块以外的其它多个子数据块所对应的多个线程,确定为从线程; 在所述任务执行状态为执行失败的情况下,标记为异常,当确定当前网络层处于空闲状态且没有新的请求等待时,标记为异常的数据重新进行推理,针对异常数据,分析每个从线程的处理状态,输出失败从线程对应的详细信息。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人苏州元脑智能科技有限公司,其通讯地址为:215000 江苏省苏州市吴中经济开发区郭巷街道官浦路1号9幢;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励