北京中数智汇科技股份有限公司王健获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉北京中数智汇科技股份有限公司申请的专利业务大模型的安全防御方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120316828B 。
龙图腾网通过国家知识产权局官网在2025-10-24发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510790537.0,技术领域涉及:G06F21/62;该发明授权业务大模型的安全防御方法及装置是由王健;王弋尘;薛泓涛设计研发完成,并于2025-06-13向国家知识产权局提交的专利申请。
本业务大模型的安全防御方法及装置在说明书摘要公布了:本申请提供了一种业务大模型的安全防御方法及装置;方法包括:获取第一查询集合;对第一查询集合进行业务适配处理,得到第二查询集合,并将第二查询集合划分成训练集和测试集;基于训练集,对攻击数据库和防御数据库进行多轮迭代更新;基于测试集,对经过多轮迭代更新后的防御数据库进行剪枝处理,得到剪枝后的防御数据库;响应于待处理查询指令,确定待处理查询指令对应的分类标签,并从剪枝后的防御数据库中,提取与分类标签对应的防御示例;基于待处理查询指令、分类标签、以及防御示例生成提示词,将提示词输入业务大模型,以使业务大模型输出业务数据查询结果。通过本申请,能够实现在商业查询等实际业务场景中的高效防御。
本发明授权业务大模型的安全防御方法及装置在权利要求书中公布了:1.一种业务大模型的安全防御方法,其特征在于,所述业务大模型用于业务数据查询服务,所述方法包括: 获取第一查询集合,所述第一查询集合包括用户向所述业务大模型提交的历史查询指令; 对所述第一查询集合进行业务适配处理,得到第二查询集合,并将所述第二查询集合划分成训练集和测试集; 基于所述训练集,对攻击数据库和防御数据库进行多轮迭代更新,所述攻击数据库包括针对所述业务大模型的攻击示例,所述防御数据库包括针对所述业务大模型的防御示例;其中,第t轮的迭代更新过程包括:针对所述训练集中的每个历史查询指令,将所述历史查询指令、从预先定义的多种攻击类型中随机选取的目标攻击类型、以及从经过第t-1轮迭代更新后的攻击数据库中,提取的与所述目标攻击类型对应的至少一个攻击示例填入提示词模板中,得到提示词;通过模型上下文协议向云端大模型或者本地大模型发送携带所述提示词的生成请求,并接收所述云端大模型或者所述本地大模型返回的生成结果;通过过滤器对所述生成结果进行分离,并对分离结果进行过滤,得到攻击指令;基于多个所述攻击指令和所述第二查询集合包括的多个历史查询指令,生成混合训练集;基于所述混合训练集,对经过第t-1轮迭代更新后的攻击数据库以及防御数据库进行更新,其中,t为大于1的正整数,且满足小于或等于T,T为多轮迭代更新的总次数; 基于所述测试集,对经过多轮迭代更新后的防御数据库进行剪枝处理,得到剪枝后的防御数据库; 响应于待处理查询指令,确定所述待处理查询指令对应的分类标签,并从所述剪枝后的防御数据库中,提取与所述分类标签对应的防御示例; 基于所述待处理查询指令、所述分类标签、以及所述防御示例生成提示词,将所述提示词输入所述业务大模型,以使所述业务大模型输出业务数据查询结果。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京中数智汇科技股份有限公司,其通讯地址为:100081 北京市海淀区学院南路62号中关村资本大厦5层505室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励