买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉中国科学院自动化研究所申请的专利一种基于大语言模型上下文压缩的长文本生成方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119761306B 。

龙图腾网通过国家知识产权局官网在2025-12-05发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411564900.9，技术领域涉及：G06F40/126；该发明授权一种基于大语言模型上下文压缩的长文本生成方法是由朱贵波;黄陈森;王雪鹏;易东;葛国敬;王金桥设计研发完成，并于2024-11-05向国家知识产权局提交的专利申请。

本一种基于大语言模型上下文压缩的长文本生成方法在说明书摘要公布了：本发明提供一种基于大语言模型上下文压缩的长文本生成方法，方法包括：获取待压缩的上下文文本以及提示词文本，并进行基于压缩的编码处理，得到对应的压缩向量以及提示词嵌入向量；将压缩向量与提示词嵌入向量进行拼接，并对拼接得到的融合特征进行基于自回归的解码处理，得到对应的多个token标识符；根据预设的词表，将token标识符逐一地映射为文本字符串，并将文本字符串组成为压缩上下文文本。通过本申请，将大语言模型处理的上下文长文本进行压缩，解决现有技术中语义模型处理长上下文文本时需要消耗巨大的模型计算资源和数据存储资源的技术问题。

本发明授权一种基于大语言模型上下文压缩的长文本生成方法在权利要求书中公布了：1.一种基于大语言模型上下文压缩的长文本生成方法，其特征在于，所述方法包括： 获取待压缩的上下文文本以及提示词文本，并将所述待压缩的上下文文本进行基于压缩的编码处理，得到对应的压缩向量，其中，所述待压缩的上下文文本是用于大语言模型执行文本处理任务的文本； 将所述压缩向量与所述提示词文本对应的提示词嵌入向量进行拼接，并对拼接得到的融合特征进行基于自回归的解码处理，得到对应的多个目标token标识符； 根据预设的词表，将所述目标token标识符逐一地映射为文本字符串，并将所述文本字符串组成为压缩上下文文本； 所述压缩上下文文本是调用文本压缩模型压缩得到的，所述文本压缩模型包括文本压缩单元模型、压缩向量映射模型以及压缩向量解码模型，所述文本压缩模型的训练方法包括： 获取上下文文本训练数据集，并根据预设文本长度阈值，将所述上下文文本训练数据集划分为短文本数据集以及长文本数据集； 通过所述短文本数据集对所述文本压缩模型进行第一阶段训练，得到第一文本压缩模型，其中，在第一阶段训练过程中，更新所述第一文本压缩模型中的文本压缩单元模型、压缩向量映射模型以及压缩向量解码模型的参数； 通过所述长文本数据集对所述第一文本压缩模型进行第二阶段训练，得到第二文本压缩模型，其中，在第二阶段训练过程中，冻结所述第一文本压缩模型中文本压缩单元模型的参数，更新所述第一文本压缩模型中压缩向量映射模型以及压缩向量解码模型的参数。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中国科学院自动化研究所，其通讯地址为：100190 北京市海淀区中关村东路95号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。