北京奇虎科技有限公司司建锋获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉北京奇虎科技有限公司申请的专利模型优化方法、装置、设备、存储介质及产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120257282B 。
龙图腾网通过国家知识产权局官网在2026-02-13发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510246219.8,技术领域涉及:G06F21/57;该发明授权模型优化方法、装置、设备、存储介质及产品是由司建锋;孙林;张向征设计研发完成,并于2025-03-03向国家知识产权局提交的专利申请。
本模型优化方法、装置、设备、存储介质及产品在说明书摘要公布了:本申请公开了一种模型优化方法、装置、设备、存储介质及产品,涉及人工智能技术领域,公开了响应于模型优化指令,通过攻击大模型生成攻击样本;通过回复大模型,生成所述攻击样本对应的回复;通过安全评估大模型,对所述回复的内容进行安全性评估,得到安全评估结果;基于所述安全评估结果,对所述攻击大模型和所述回复大模型进行优化。该方法能够有效增强模型防御各类攻击手段的能力,提高模型的安全性和可靠性。
本发明授权模型优化方法、装置、设备、存储介质及产品在权利要求书中公布了:1.一种模型优化方法,其特征在于,所述方法包括: 响应于模型优化指令,通过攻击大模型生成攻击样本; 通过回复大模型,生成所述攻击样本对应的回复; 通过安全评估大模型,对所述回复的内容进行安全性评估,得到安全评估结果; 基于所述安全评估结果,对所述回复大模型进行优化,包括: 在所述安全评估结果指示所述回复为风险回复的情况下,从所述安全评估结果包含的参考原因中提取安全问题,所述参考原因为判定所述回复为风险回复的依据,包含所述回复存在安全风险的因素,所述安全问题为所述回复中存在的安全隐患的概括性描述;将所述安全问题作为搜索词,从数据库或者网络上搜索与所述安全问题匹配的安全知识;通过所述回复大模型,基于所述安全知识和所述参考原因,生成所述攻击样本对应的下一轮回复,直至生成的回复被所述安全评估大模型评估为安全回复; 将所述攻击样本与所述安全回复构成问答组合; 将所述问答组合以及所述安全知识存储到安全知识库中,所述安全知识库用于为所述回复大模型生成回复提供信息参考; 基于所述安全评估结果,对所述攻击大模型进行优化,包括: 基于多个攻击样本对应回复的安全评估结果,确定所述多个攻击样本的攻击成功率,所述多个攻击样本由所述攻击大模型基于同一参考信息生成; 按照所述多个攻击样本的攻击成功率,生成所述多个攻击样本的偏好分数,所述攻击成功率与所述偏好分数成正相关关系; 基于所述多个攻击样本的偏好分数对所述攻击大模型进行偏好优化。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京奇虎科技有限公司,其通讯地址为:100015 北京市朝阳区酒仙桥路6号院2号楼1至19层104号内8层801;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励