买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉蚂蚁科技集团股份有限公司申请的专利训练提示注入攻击检测模型的方法、装置、介质及设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN118821974B 。

龙图腾网通过国家知识产权局官网在2025-07-08发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411318856.3，技术领域涉及：G06N20/00；该发明授权训练提示注入攻击检测模型的方法、装置、介质及设备是由刘焱;翁海琴设计研发完成，并于2024-09-20向国家知识产权局提交的专利申请。

本训练提示注入攻击检测模型的方法、装置、介质及设备在说明书摘要公布了：本说明书实施例公开了一种用于训练提示注入攻击检测模型的方法、装置、存储介质及电子设备，获得第一提示词训练样本，其中，所述第一提示词训练样本包括正常的提示词及被提示注入攻击的提示词；将所述第一提示词训练样本输入待保护的大模型，获得所述大模型输出的针对所述第一提示词训练样本的处理过程中的多个处理步骤信息；获得所述多个处理步骤信息对应的标签信息，其中，所述标签信息用于指示对应的处理步骤信息是否被提示注入攻击；基于所述多个处理步骤信息及所述标签信息进行模型训练，获得已训练的提示注入攻击检测模型，其中，所述提示注入攻击检测模型用于预测待检测的提示词中导致提示注入攻击的内容。

本发明授权训练提示注入攻击检测模型的方法、装置、介质及设备在权利要求书中公布了：1.一种用于训练提示注入攻击检测模型的方法，包括： 获得第一提示词训练样本，其中，所述第一提示词训练样本包括正常的提示词及被提示注入攻击的提示词； 将所述第一提示词训练样本输入待保护的大模型，获得所述大模型输出的针对所述第一提示词训练样本的处理过程中的多个处理步骤信息，其中，所述多个处理步骤信息用于组成训练数据集； 获得所述多个处理步骤信息对应的标签信息，其中，所述标签信息用于指示对应的处理步骤信息是否被提示注入攻击； 基于所述多个处理步骤信息及所述标签信息进行模型训练，获得已训练的提示注入攻击检测模型，其中，所述已训练的提示注入攻击检测模型用于根据输入的待检测的提示词输出用于指示所述待检测的提示词是否被提示注入攻击的提示注入攻击检测结果，若所述提示注入攻击检测结果指示所述待检测的提示词被提示注入攻击，所述提示注入攻击检测结果包括所述已训练的提示注入攻击检测模型预测的所述待检测的提示词中导致提示注入攻击的内容；其中，所述模型训练包括通过对所述待保护的大模型进行微调训练，将微调后的大模型作为已训练的提示注入攻击检测模型； 其中，所述方法还包括： 将待检测的目标提示词输入所述已训练的提示注入攻击检测模型，使得所述已训练的提示注入攻击检测模型在基于所述目标提示词生成的多个处理步骤信息中确定存在提示注入攻击的至少一个处理步骤信息，获得所述目标提示词中与所述至少一个处理步骤信息相关联的内容并作为导致提示注入攻击的内容； 获得所述提示注入攻击检测模型输出的所述目标提示词中导致提示注入攻击的内容。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人蚂蚁科技集团股份有限公司，其通讯地址为：310007 浙江省杭州市西湖区西溪路543号-569号1幢2号楼5层517室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。