买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京奇虎科技有限公司申请的专利大模型安全防护方法、装置、设备及存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120409549B 。

龙图腾网通过国家知识产权局官网在2025-11-18发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510897999.2，技术领域涉及：G06N3/045；该发明授权大模型安全防护方法、装置、设备及存储介质是由朱洪银;司建锋;孙林设计研发完成，并于2025-07-01向国家知识产权局提交的专利申请。

本大模型安全防护方法、装置、设备及存储介质在说明书摘要公布了：本申请涉及人工智能技术领域，公开了一种大模型安全防护方法、装置、设备及存储介质，该方法包括：通过预设攻击模型生成攻击数据集，其中，预设攻击模型为基于真有害查询语句预先训练的模型，真有害查询语句为通过评估模型从待区分查询语句中筛选获得的查询语句，评估模型为用于区分查询语句是否真有害的大语言模型；基于攻击数据集构建安全防护规则，并根据安全防护规则对大模型进行安全防护；由于本申请中由预设攻击模型来生成攻击数据集，而预设攻击模型通过真有害查询语句训练获得，真有害查询语句通过大语言模型从待区分查询语句中筛选，从而能够提高攻击数据集的质量和覆盖范围，进而能够提高大模型安全防护的效果。

本发明授权大模型安全防护方法、装置、设备及存储介质在权利要求书中公布了：1.一种大模型安全防护方法，其特征在于，所述大模型安全防护方法包括： 通过预设攻击模型生成攻击数据集，其中，所述预设攻击模型为基于真有害查询语句预先训练的模型，所述真有害查询语句为通过评估模型从待区分查询语句中筛选获得的查询语句，所述评估模型为用于区分查询语句是否真有害的大语言模型； 基于所述攻击数据集构建安全防护规则，并根据所述安全防护规则对大模型进行安全防护； 其中，所述通过预设攻击模型生成攻击数据集之前，还包括： 基于混淆矩阵和评估模型从待区分查询语句中筛选真安全查询语句，其中，所述真安全查询语句为明确无攻击意图，且符合安全规范的查询语句； 根据所述真有害查询语句和所述真安全查询语句针对初始攻击模型的各个模型层进行参数干预，获得第一攻击模型； 部署多个教师模型，其中，所述多个教师模型为不同领域的攻击模型； 基于所述真有害查询语句通过知识蒸馏将所述多个教师模型的生成能力迁移至所述第一攻击模型，获得第二攻击模型； 构建黑盒攻击引导词和有害提示引导词，其中，所述黑盒攻击引导词用于引导模型针对真有害查询语句生成有害内容，所述有害提示引导词用于引导模型针对正常查询语句生成有害内容； 基于所述真有害查询语句、所述黑盒攻击引导词以及所述有害提示引导词训练所述第二攻击模型，获得第四攻击模型，并将所述第四攻击模型作为预设攻击模型； 获取所述预设攻击模型的模型信息，并基于所述模型信息对所述预设攻击模型进行部署。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京奇虎科技有限公司，其通讯地址为：100015 北京市朝阳区酒仙桥路6号院2号楼1至19层104号内8层801；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。