买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉清华大学申请的专利模型的推理方法、装置、存储介质和计算机设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119578547B 。

龙图腾网通过国家知识产权局官网在2025-10-24发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411649030.5，技术领域涉及：G06N5/04；该发明授权模型的推理方法、装置、存储介质和计算机设备是由陆游游;曾少勋设计研发完成，并于2024-11-18向国家知识产权局提交的专利申请。

本模型的推理方法、装置、存储介质和计算机设备在说明书摘要公布了：本公开提供一种模型的推理方法、装置、存储介质和计算机设备。所述方法包括：获取预先存储的目标模型的分配表和地址恢复表；其中，分配表是目标模型用于记录目标模型在预处理过程中捕获的计算图中节点对应的执行顺序，所述地址恢复表是根据所述计算图构建的内核与参数的映射关系表；根据所述分配表中的执行顺序，查询地址恢复表，得到计算图中节点的地址信息，所述地址信息包括每个节点的内核地址和参数地址；根据每个节点的地址信息，恢复所述目标模型在推理过程中的计算图；基于所述计算图，执行目标模型的推理计算。使模型可以根据计算图进行推理，避免了模型在推理时重新捕获算子图，减小了模型冷启动的时间延迟，提高了模型冷启动的效率。

本发明授权模型的推理方法、装置、存储介质和计算机设备在权利要求书中公布了：1.一种模型的推理方法，其特征在于，所述方法包括： 获取预先存储的目标模型的分配表和地址恢复表；其中，所述分配表是目标模型用于记录目标模型在预处理过程中捕获的计算图中节点对应的执行顺序，所述地址恢复表是根据所述计算图构建的内核与参数的映射关系表； 根据所述分配表中的执行顺序，查询地址恢复表，得到所述计算图中节点的地址信息，所述地址信息包括每个节点的内核地址和参数地址； 根据每个节点的地址信息，恢复所述目标模型在推理过程中的计算图； 基于所述计算图，执行目标模型的推理计算； 获取目标模型在预处理过程中记录的键值缓存空间的大小；所述键值缓存空间用于记录所述目标模型在推理过程中生成的键值对； 根据所述记录的键值缓存空间的大小，分配所述目标模型在推理过程中使用的所述大小的键值缓存空间； 所述地址恢复表包括参数地址恢复表和内核地址恢复表； 所述根据所述分配表中的执行顺序，查询地址恢复表，得到所述计算图中节点的地址信息，包括： 根据所述分配表中的执行顺序，查询所述参数地址恢复表，得到所述计算图中每个节点的参数地址； 根据所述分配表中的执行顺序，查询所述内核地址恢复表，得到所述计算图中每个节点的内核地址。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人清华大学，其通讯地址为：100084 北京市海淀区清华园；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。