北京航空航天大学高莹获国家专利权
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
龙图腾网获悉北京航空航天大学申请的专利基于训练场景的大模型安全风险评价方法及装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119312334B 。
龙图腾网通过国家知识产权局官网在2025-10-10发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202410812125.8，技术领域涉及：G06F21/57；该发明授权基于训练场景的大模型安全风险评价方法及装置是由高莹;朱祖坤;邓煌昊;陈晓峰;谢雨欣;吕继强设计研发完成，并于2024-06-21向国家知识产权局提交的专利申请。
本基于训练场景的大模型安全风险评价方法及装置在说明书摘要公布了：本申请涉及人工智能技术领域，特别涉及一种基于训练场景的大模型安全风险评价方法及装置，其中，方法包括：基于目标大模型的训练场景信息进行微调训练，得到微调模型；基于攻击指令对目标大模型进行攻击，得到被攻击模型和中毒样本；基于防御指令和中毒样本对被攻击模型进行防御处理，并根据攻击指令攻击防御处理后的被攻击模型，得到中毒模型；基于目标评价指标，利用微调模型和中毒模型生成安全风险分数，根据安全风险分数评价目标大模型的安全风险等级。本申请实施例可以通过对大模型进行攻击和防御训练，得到大模型的安全风险分数，以直观衡量模型的安全风险，从而进一步实现对大模型安全防御水平的优化改进，使模型更加稳定可靠。
本发明授权基于训练场景的大模型安全风险评价方法及装置在权利要求书中公布了：1.一种基于训练场景的大模型安全风险评价方法，其特征在于，包括以下步骤： 获取目标大模型的训练场景信息、攻击指令和防御指令； 根据用户自定义的下游任务类型，对所述目标大模型、所述训练场景信息、所述攻击指令和所述防御指令进行统一接口封装与预处理，构建可扩展的通用化执行流程，所述通用化执行流程包括： 基于所述训练场景信息对所述目标大模型进行微调训练，得到微调模型； 基于所述攻击指令对所述目标大模型进行攻击，得到被攻击模型和中毒样本； 基于所述防御指令和所述中毒样本对所述被攻击模型进行防御处理，并根据所述攻击指令攻击防御处理后的被攻击模型，得到中毒模型； 基于目标评价指标，利用所述微调模型和所述中毒模型生成安全风险分数，根据所述安全风险分数评价所述目标大模型的安全风险等级； 所述目标评价指标包括下游任务性能指标、攻击方法攻击效果指标、防御方法防御效果指标。
如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京航空航天大学，其通讯地址为：100191 北京市海淀区学院路37号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号
请提出您的宝贵建议，有机会获取IP积分或其他奖励