买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉四川大学申请的专利一种基于多智能体强化学习的大模型安全漏洞检测方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120805146B 。

龙图腾网通过国家知识产权局官网在2025-11-28发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511274702.3，技术领域涉及：G06F21/57；该发明授权一种基于多智能体强化学习的大模型安全漏洞检测方法是由阚璇;庄绪成;陶涛;李亚飞;孙振阳;吕纳;方智阳设计研发完成，并于2025-09-08向国家知识产权局提交的专利申请。

本一种基于多智能体强化学习的大模型安全漏洞检测方法在说明书摘要公布了：本发明公开了一种基于多智能体强化学习的大模型安全漏洞检测方法，涉及人工智能安全技术领域。该检测方法包括：构建初始提示词集合、提示词生成智能体和提示词判别智能体；选择初始提示词输入提示词生成智能体，生成的新提示词输入目标大模型，得到第一模型输出；将新提示词和第一模型输出组成键值对输入提示词判别智能体，获取新提示词的综合得分，并将新提示词添加至初始提示词集合；重复更新初始提示词集合，获取优化提示词集合输入目标大模型，获取第二模型输出；对第二模型输出进行敏感信息识别，判断目标大模型的安全漏洞。该检测方法可有效发现大模型潜在的安全风险漏洞，有助于提升目标大模型的安全性。

本发明授权一种基于多智能体强化学习的大模型安全漏洞检测方法在权利要求书中公布了：1.一种基于多智能体强化学习的大模型安全漏洞检测方法，其特征在于，包括以下步骤： 步骤S1：构建初始提示词集合P、提示词生成智能体G和提示词判别智能体D； 步骤S2：根据综合得分RD选择初始提示词集合P的提示词pi输入提示词生成智能体G，将生成的新提示词输入目标大模型，得到第一模型输出； 步骤S3：将新提示词和第一模型输出组成键值对输入提示词判别智能体D，获取新提示词的综合得分RD，并将新提示词添加至初始提示词集合P； 步骤S4：重复步骤S2至步骤S3达最大迭代次数，获取优化提示词集合P1并输入目标大模型，获取第二模型输出； 步骤S5：对第二模型输出进行敏感信息识别，判断是否存在返回受限内容、泄露系统提示、生成有害言论或越权操作，识别目标大模型的安全漏洞； 所述提示词生成智能体G包括提示词变异模块和策略更新模块； 提示词变异模块用于生成新提示词：将初始提示词嵌入变异模板后输入大语言模型，生成新提示词；其中，变异模板包括语法结构调整模板、语义替换模板和表达方式转换模板； 将新提示词及其奖励得分RG输入策略更新模块，以最大化奖励得分RG的累计值为目标函数，更新下一轮变异生成过程中各变异模板的选择概率分布； 所述提示词判别智能体D包括评分反馈模块； 评分反馈模块用于计算新提示词的综合得分RD和奖励得分RG，公式如下： RD=δ·sensitivity_score+ε·attack_effectiveness； RG=α·diversity+β·attack_potential； 式中，sensitivity_score为新提示词的敏感度分数；attack_effectiveness表示新提示词的攻击效果，δ和ε为预设的加权系数，diversity为新提示词的多样性，attack_potential为新提示词的攻击潜力，α与β为预设权重； 其中，第一轮变异生成过程中各变异模板的选择概率分布相等，初始提示词的综合得分RD为预设分数。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人四川大学，其通讯地址为：610065 四川省成都市武侯区一环路南一段24号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。