买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉杭州高新区(滨江)区块链与数据安全研究院申请的专利大语言模型安全评估方法、装置及电子设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120805149B 。

龙图腾网通过国家知识产权局官网在2026-01-30发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511302693.4，技术领域涉及：G06F21/57；该发明授权大语言模型安全评估方法、装置及电子设备是由王海涛;王庆龙;巴钟杰;任奎设计研发完成，并于2025-09-12向国家知识产权局提交的专利申请。

本大语言模型安全评估方法、装置及电子设备在说明书摘要公布了：本申请实施例适用于人工智能模型技术领域，提供了一种大语言模型安全评估方法、装置及电子设备，该方法包括：获取由预设安全评估模型针对多个评测样本进行评估得到的安全评估信息，以及与安全评估信息对应的不确定性值；评测样本包括输入信息以及由待评测大模型针对各个输入信息生成的输出信息；依据抽样样本集确定动态阈值；针对不确定性值大于动态阈值的评测样本，确定针对评测样本的专家标签为评测样本的安全评估信息；依据各个评测样本及对应的安全评估信息，生成待评测大模型的安全评估结果。本申请实施例可以实现高效完成对待评测大模型进行安全评估，并确保对待评测大模型的安全评估结果准确性、可靠性。

本发明授权大语言模型安全评估方法、装置及电子设备在权利要求书中公布了：1.一种大语言模型安全评估方法，其特征在于，所述方法包括： 获取由预设安全评估模型针对多个评测样本进行评估得到的安全评估信息，以及与所述安全评估信息对应的不确定性值；所述评测样本包括输入信息以及由待评测大模型针对各个输入信息生成输出信息； 依据抽样样本集确定动态阈值；所述抽样样本集包括若干个评测样本以及所述评测样本对应的不确定性值以及专家标签； 针对所述不确定性值大于动态阈值的评测样本，确定针对所述评测样本的专家标签为所述评测样本的安全评估信息； 依据各个评测样本及对应的安全评估信息，生成待评测大模型的安全评估结果； 其中，所述依据抽样样本集确定动态阈值，包括：从多个所述评测样本进行抽样，得到多个抽样样本；确定所述抽样样本中各个输入信息对应的专家标签；依据所述抽样样本以及所述专家标签，计算误差上限值；依据所述误差上限值，确定动态阈值； 所述动态阈值为大于类别误差阈值的各个误差上限值对应的不确定性临界值中最小一个；所述类别误差阈值用于表征同一类别的输出信息误差比例。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人杭州高新区(滨江)区块链与数据安全研究院，其通讯地址为：310051 浙江省杭州市滨江区物联网孵化器大楼2号楼A楼4-7层；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。