买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉华中科技大学申请的专利一种基于动态流水线的检索增强生成方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119848202B 。

龙图腾网通过国家知识产权局官网在2025-11-04发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411939259.2，技术领域涉及：G06F16/3329；该发明授权一种基于动态流水线的检索增强生成方法及系统是由周健;吴非;余润杰;阳羽凡设计研发完成，并于2024-12-26向国家知识产权局提交的专利申请。

本一种基于动态流水线的检索增强生成方法及系统在说明书摘要公布了：本发明公开了一种基于动态流水线的检索增强生成方法及系统，属于固态存储和大语言模型交叉领域，包括：通过预设的检索方法检索预先建立的文本语料库，以从中获取top‑k个与用户输入的查询内容最相似的文本作为检索结果，将检索结果放入结果集；检索方法包括多次迭代，每次迭代都会检索出与查询内容最相似的部分文本；在通过检索方法检索文本语料库的过程中，分多次从结果集中预取部分文本并放入预先建立在内存中的流水线池；分多次从流水线池中取文本并提供给大语言模型，以由大语言模型计算相应的键和值，并将计算结果填充至大语言模型的KV缓存，供大语言模型的解码阶段使用。本发明能够掩盖知识检索的延迟，以减少检索增强生成系统的响应时间。

本发明授权一种基于动态流水线的检索增强生成方法及系统在权利要求书中公布了：1.一种基于动态流水线的检索增强生成方法，其特征在于，包括： 知识检索：通过预设的检索方法检索预先建立的文本语料库，以从中获取top-k个与用户输入的查询内容最相似的文本作为检索结果，将所述检索结果放入结果集；所述检索方法包括多次迭代，每次迭代都会从所述文本语料库中检索出与所述查询内容最相似的部分文本； 检索结果预取：在通过所述检索方法检索所述文本语料库的过程中，分多次从所述结果集中预取部分文本并放入预先建立在内存中的流水线池； 预填充：分多次从所述流水线池中取文本并提供给大语言模型，以由所述大语言模型计算相应的键和值，并将计算结果填充至所述大语言模型的KV缓存，供所述大语言模型的解码阶段使用； 其中，所述文本语料库存储于硬盘上；top-k为预设正整数； 从所述结果集中预取文本的频率随着知识检索过程中迭代次数的增加而降低； 第n次从所述结果集中预取文本的操作发生于知识检索过程中的第次迭代，则， 其中，表示第n+1次预取发生时的迭代次数；PP.size表示所述流水线池中的文本数量；δ表示预设增量，δ0；Balancern表示第n次预取结束后的平衡因子；表示向下取整； 从所述结果集中预取文本的数量与所述结果集的稳定性正相关； 第n次从所述结果集中预取文本的数量MaxNumn为： 其中，Stability表示当前预取与前一次预取相比，结果集中未发生位置变化的文本数量；Balancern-1表示第n-1次预取结束后的平衡因子；D为预设正整数。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人华中科技大学，其通讯地址为：430074 湖北省武汉市洪山区珞喻路1037号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。