买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉浙江君同智能科技有限责任公司申请的专利基于上下文学习的大语言模型提示词注入攻击检测方法和装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN118734314B 。

龙图腾网通过国家知识产权局官网在2025-10-21发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202410700332.4，技术领域涉及：G06F21/57；该发明授权基于上下文学习的大语言模型提示词注入攻击检测方法和装置是由韩蒙;林石;林昶廷;王勋;高岩;王滨;李晓波;杨波设计研发完成，并于2024-05-31向国家知识产权局提交的专利申请。

本基于上下文学习的大语言模型提示词注入攻击检测方法和装置在说明书摘要公布了：本发明公开了一种基于上下文学习的大语言模型提示词注入攻击检测方法和装置，属于人工智能技术领域，包括：基于Bert预训练模型，通过引入基于标签的注意力模块，学习不同层级和不同标签之间的固有特征和依赖关系，设计了一个对提示词注入攻击进行多层级、多标签的细粒度的分类模型，以实现对提示词注入攻击的精准识别。同时，本方法根据上下文学习，将该分类模型的预测能力与大语言模型的能力相结合，提升大语言模型对提示词注入攻击的防御能力。本发明能自动化进行提示词注入攻击的检测，同时提升检测的有效性和全面性，能有效应用于大模型安全检测领域。

本发明授权基于上下文学习的大语言模型提示词注入攻击检测方法和装置在权利要求书中公布了：1.一种基于上下文学习的大语言模型提示词注入攻击检测方法，其特征在于，包括以下步骤： 步骤1：基于模糊测试的语言变异算法，对提示词注入攻击指令进行变异，得到变异攻击指令，通过变异攻击指令对大语言模型进行循环攻击，保留有效攻击的变异攻击指令，构建指令数据集； 步骤2：设计多层级多标签的细粒度分类树，根据提示词注入攻击指令的攻击目的，构建细粒度分类树的第一层级，对第一层级进行语义划分，得到第二层级，按照第二层级各标签的实现策略，得到第三层级；利用细粒度分类树为指令数据集添加提示词注入攻击类别标签； 步骤3：基于Bert预训练模型和细粒度分类树，引入基于标签的注意力模块，构建层级多标签分类模型，其中，细粒度分类树用于对输入文本分层并赋予层级预测标签；Bert预训练模型用于得到分层文本的层级嵌入向量；基于标签的注意力模块用于提取层级嵌入向量的标签特征和层级特征，加权平均后作为对应层级的层级预测标签的置信度，整合高于阈值的最高置信度对应的层级预测标签作为输入文本的预测标签； 步骤4：以带标签的指令数据集微调层级多标签分类模型，得到微调预测模型，获取带标签的指令数据集的采样样本，利用微调预测模型对采样样本和测试样本的预测输出分别构建上下文集合和测试提示，拼接后输入大语言模型，利用上下文学习，得到测试样本的预测结果和原因分析。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浙江君同智能科技有限责任公司，其通讯地址为：310053 浙江省杭州市滨江区浦沿街道东信大道66号二号楼314室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。