买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉深存科技(无锡)有限公司申请的专利大模型KV cache快速存储与导入加速系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119443283B 。

龙图腾网通过国家知识产权局官网在2025-10-28发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411588881.3，技术领域涉及：G06N5/04；该发明授权大模型KV cache快速存储与导入加速系统是由请求不公布姓名;请求不公布姓名设计研发完成，并于2024-11-08向国家知识产权局提交的专利申请。

本大模型KV cache快速存储与导入加速系统在说明书摘要公布了：本申请公开大模型KVcache快速存储与导入加速系统，涉及FPGA领域。系统包括CPU、加速器、FPGA、存储器、外部存储器和内存；查询阶段，CPU根据输入词元确定数据查询任务，控制FPGA启动数据查询任务；FPGA根据从外部存储器中查询和导入模型缓存数据至存储器中；推理阶段，加速器基于模型缓存数据进行推理和输出推理结果；FPGA根据CPU的控制指令从存储器中读取更新后模型缓存数据，并导出至外部存储器。该方案利用KVCache技术减少大模型推理重复次数，使用hash计算、查表和查询访问技术使数据在导入和导出上做到更快，进一步加速了结果输出的速度。不仅扩宽了应用场景，还方便数据备份转移。

本发明授权大模型KV cache快速存储与导入加速系统在权利要求书中公布了：1.一种大模型KVcache快速存储与导入系统，其特征在于，所述系统包括数据处理和任务调度的CPU、运行大模型的加速器、执行KVCache和数据查询的FPGA、在FPGA和加速器之间提供数据交换的存储器、存储模型缓存数据的外部存储器，以及存储会话词元和链表的内存；所述链表中记录有储模型缓存数据的映射地址； 查询阶段，CPU根据当前会话产生的输入词元确定数据查询任务，并控制FPGA启动数据查询任务；FPGA根据输入词元从外部存储器中查询和导入模型缓存数据至存储器中，以及将当前会话的输入词元至内存中；所述链表中包含若干组链环，每组所述链环中存储有当前会话的已计算词元数、已计算词元的hash值，以及模型缓存数据的物理地址； 在查找链表时，根据当前会话的已计算词元数和已计算词元的hash值从目标链表中确定目标链环，以及提取目标模型缓存数据的物理地址； 推理阶段，运行大模型的加速器通过提取存储器中的模型缓存数据进行模型推理，输出推理结果和导出新模型缓存数据；所述FPGA根据CPU的控制指令从存储器中读取更新后模型缓存数据，并导出至外部存储器。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人深存科技(无锡)有限公司，其通讯地址为：214000 江苏省无锡市新吴区弘毅路10号金乾座401、402室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。