买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉杭州海康威视数字技术股份有限公司申请的专利基于角色模拟的大模型越狱攻击安全评估方法及设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120579192B 。

龙图腾网通过国家知识产权局官网在2025-11-07发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511071850.5，技术领域涉及：G06F21/57；该发明授权基于角色模拟的大模型越狱攻击安全评估方法及设备是由王滨;李超豪;王晨曦;韩蒙;林昶廷;周少鹏;王星设计研发完成，并于2025-07-31向国家知识产权局提交的专利申请。

本基于角色模拟的大模型越狱攻击安全评估方法及设备在说明书摘要公布了：本申请提供一种基于角色模拟的大模型越狱攻击安全评估方法及设备。在一个示例中，该方法包括：获取原始提示文本，并将所述原始提示文本改写为受害者视角的描述文本；依据所述受害者视角的描述文本，生成侦探视角的初始越狱攻击提示文本；对所述初始越狱攻击提示文本进行提示重释义处理，得到用于对所述待评估大模型进行安全评估的目标越狱攻击提示文本；将所述目标越狱攻击提示文本输入待评估大模型，得到所述待评估大模型的响应输出；依据所述待评估大模型的响应输出，确定所述待评估大模型的抗越狱攻击安全评估结果。该方法可以更准确地评估大模型抵御越狱攻击的能力。

本发明授权基于角色模拟的大模型越狱攻击安全评估方法及设备在权利要求书中公布了：1.一种基于角色模拟的大模型越狱攻击安全评估方法，其特征在于，包括： 获取原始提示文本，并将所述原始提示文本改写为受害者视角的描述文本； 依据所述受害者视角的描述文本，生成侦探视角的初始越狱攻击提示文本； 对所述初始越狱攻击提示文本进行提示重释义处理，得到用于对待评估大模型进行安全评估的目标越狱攻击提示文本； 将所述目标越狱攻击提示文本输入待评估大模型，得到所述待评估大模型的响应输出； 依据所述待评估大模型的响应输出，确定所述待评估大模型的抗越狱攻击安全评估结果； 其中，所述对所述初始越狱攻击提示文本进行提示重释义处理，得到用于对所述待评估大模型进行安全评估的目标越狱攻击提示文本，包括： 依据重释义损失，对所述初始越狱攻击提示文本进行循环迭代提示重释义处理，直至满足预设迭代停止条件，得到用于对所述待评估大模型进行安全评估的目标越狱攻击提示文本； 所述重释义损失包括： 攻击损失；其中，对于任一次提示词重释义处理，本次提示词重释义处理的攻击损失依据当前的大模型响应输出确定，所述当前的大模型响应输出为所述待评估大模型对本次提示词重释义处理得到的越狱攻击提示文本的响应输出； 流畅度损失；其中，对于任一次提示词重释义处理，本次提示词重释义处理的流畅度损失用于表征本次提示词重释义处理得到的越狱攻击提示文本的流畅度；该流畅度依据在给定本次提示词重释义处理得到的越狱攻击提示文本中的前i-1个词的情况下，辅助语言模型对第i个词的预测概率；2≤i≤N，N为本次提示词重释义处理得到的越狱攻击提示文本的总长度； 以及，相似度损失；其中，对于任一次提示词重释义处理，本次提示词重释义处理的相似度损失依据提示词重释义处理前后越狱攻击提示文本之间的相似度确定。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人杭州海康威视数字技术股份有限公司，其通讯地址为：310051 浙江省杭州市滨江区阡陌路555号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。