买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉中国工程物理研究院计算机应用研究所申请的专利一种针对聊天大模型服务的可用性评估方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120297424B 。

龙图腾网通过国家知识产权局官网在2025-08-15发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510780866.7，技术领域涉及：G06N5/04；该发明授权一种针对聊天大模型服务的可用性评估方法及系统是由刘小垒;李星煜;刘成;张峰;印佳丽;纪守领设计研发完成，并于2025-06-12向国家知识产权局提交的专利申请。

本一种针对聊天大模型服务的可用性评估方法及系统在说明书摘要公布了：本发明公开了一种针对聊天大模型服务的可用性评估方法及系统，属于人工智能安全和大模型安全技术领域，解决现有技术文本离散性导致的梯度传导障碍及自回归输出内容的不确定性的问题。本发明包括基于各原始输入样本和聊天大模型采用梯度与词块的映射关系构造海绵样本测试数据集；基于海绵样本测试数据集对聊天大模型进行可用性评估。本发明用于对聊天大模型服务的可用性评估。

本发明授权一种针对聊天大模型服务的可用性评估方法及系统在权利要求书中公布了：1.一种针对聊天大模型服务的可用性评估方法，其特征在于，包括如下步骤： 步骤1、基于各原始输入样本和聊天大模型采用梯度与词块的映射关系构造海绵样本测试数据集； 步骤2、基于海绵样本测试数据集对聊天大模型进行可用性评估，对比正常数据集和海绵样本测试数据集每一项指标具体值的差异来进行可用性评估； 所述步骤1的具体步骤为： 步骤1.1、首先将各原始输入样本与随机初始化的对抗后缀拼接为模型输入，并基于模型输入和聊天大模型的词汇表进行one-hot向量转换及映射后送入聊天大模型中进行前向推理，得到输出序列，其中，原始输入样本为聊天大模型公开的对话数据集中的用户输入，对话数据集包括ShareGPT数据集和Alpaca数据集，对抗后缀包括至少包括一个词块； 步骤1.2、根据输出序列构建融合EOS损失和均匀损失的总损失函数； 步骤1.3、再基于总损失函数通过反向传播获得对抗后缀对应的梯度，并利用获得的梯度采用梯度搜寻的离散文本优化算法获得对抗后缀的前M个最大的负梯度作为候选对抗后缀； 步骤1.4、将各候选对抗后缀与原始输入样本进行拼接后再次输入到聊天大模型中，得到对应的输出序列，并根据输出序列长度评估聊天大模型的开销； 步骤1.5、若聊天大模型开销达到最大或者迭代次数达到最大，则停止优化，并将输出序列长度最大的候选对抗后缀与原始输入样本拼接作为最终的海绵测试样本，否则，选择输出序列长度最大的候选对抗后缀更新随机初始化的对抗后缀，并再次执行步骤1.1； 步骤1.6、基于所有海绵测试样本构造海绵样本测试数据集。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中国工程物理研究院计算机应用研究所，其通讯地址为：621054 四川省绵阳市绵山路64号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。