买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉瀚博半导体(上海)股份有限公司申请的专利用于测试大语言模型的方法、装置及计算机设备、存储介质、程序产品获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120705072B 。

龙图腾网通过国家知识产权局官网在2025-12-05发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511196245.0，技术领域涉及：G06F11/3668；该发明授权用于测试大语言模型的方法、装置及计算机设备、存储介质、程序产品是由张超设计研发完成，并于2025-08-26向国家知识产权局提交的专利申请。

本用于测试大语言模型的方法、装置及计算机设备、存储介质、程序产品在说明书摘要公布了：本公开提供了一种用于测试大语言模型的方法、装置及计算机设备、存储介质、程序产品，涉及计算机及人工智能领域。实现方案为：经由交互界面服务端设置目标大语言模型的目标超参数，目标超参数用于调节目标大语言模型预测词元的概率分布；执行多轮测试，针对每轮测试：经由第一分发单元和第二分发单元将测试用例通过交互界面服务端提供给目标大语言模型；获取目标大语言模型响应于测试用例预测词元得到的未归一化的原始预测分数；将未归一化的原始预测分数转换成字节串；对执行多轮测试各自得到的字节串进行比较，以确定是否存在不一致的字节串；以及响应于确定存在不一致的字节串，确定目标大语言模型在测试链路上出现输出确定性异常。

本发明授权用于测试大语言模型的方法、装置及计算机设备、存储介质、程序产品在权利要求书中公布了：1.一种用于测试大语言模型的方法，其特征在于，所述方法用于在至少两个测试链路上执行，每个测试链路上经由推理引擎服务端部署至少一种大语言模型中的目标大语言模型，并且每个测试链路上顺序地设置有用于分发测试用例的第一数量的第一分发单元和第二数量的第二分发单元，以及与所述推理引擎服务端通信连接的所述第二数量的交互界面服务端，所述第二数量是所述第一数量的N倍，N为大于或等于2的自然数，其中，所述第一分发单元和所述第二分发单元与所述交互界面服务端的交互操作用于模拟用户操作行为，其中，所述方法包括： 经由所述交互界面服务端设置所述目标大语言模型的目标超参数，其中，所述目标超参数包括用于调节所述目标大语言模型预测词元的概率分布的温度超参数，其中，设置所述温度超参数为零，而使得除所述温度超参数之外的推理阶段的其他超参数被固定； 执行多轮测试，针对每轮测试： 经由所述第一分发单元和所述第二分发单元将所述测试用例通过所述交互界面服务端提供给所述目标大语言模型； 获取所述目标大语言模型响应于所述测试用例预测词元得到的未归一化的原始预测分数； 将所述未归一化的原始预测分数转换成字节串； 对执行所述多轮测试各自得到的所述字节串进行比较，以确定是否存在不一致的字节串； 响应于确定存在所述不一致的字节串，确定所述目标大语言模型在所述测试链路上出现输出确定性异常；以及 经由应用程序编程接口调试将所述测试链路上出现异常的潜在位置定位到所述交互界面服务端或所述推理引擎服务端，其中： 经由所述应用程序编程接口调试跳过所述交互界面服务端，直接设置所述目标超参数，并再次获取所述多轮测试各自得到的字节串进行比较； 响应于仍然出现不一致的字节串，定位所述推理引擎服务端一侧出现异常；以及 响应于不一致的字节串消失，定位所述交互界面服务端一侧出现异常。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人瀚博半导体(上海)股份有限公司，其通讯地址为：201103 上海市闵行区万源路2800号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。