北京九章云极科技有限公司吴建明获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉北京九章云极科技有限公司申请的专利基于智能计算中心的算力实现模型推理搜索的方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120030197B 。
龙图腾网通过国家知识产权局官网在2025-11-11发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510096019.9,技术领域涉及:G06F16/903;该发明授权基于智能计算中心的算力实现模型推理搜索的方法及装置是由吴建明;缪旭;包含;俞静吉设计研发完成,并于2025-01-21向国家知识产权局提交的专利申请。
本基于智能计算中心的算力实现模型推理搜索的方法及装置在说明书摘要公布了:本申请提供一种基于智能计算中心的算力实现模型推理搜索的方法及装置,方法包括:将用户的请求输入至大语言模型中,得到多个子步骤并送入执行器中执行,基于模型对其进行打分,选取得分最高的子步骤,将其和请求输入至模型中,得到多个新的子步骤并送入执行器中执行,基于大语言模型和得分最高的子步骤的得分,对多个新的子步骤分别进行打分,得到每个新的子步骤对应的得分结果;重复执行生成子步骤、送入执行器中执行以及打分的步骤,直至新的子步骤的得分结果大于预设阈值,或者,直至确定出由得分最高的子步骤所形成的解决方案有效,并将其作为目标解决方案,由此,可以有效地提高解决方案的生成效率和质量。
本发明授权基于智能计算中心的算力实现模型推理搜索的方法及装置在权利要求书中公布了:1.一种基于智能计算中心的算力实现模型推理搜索的方法,其特征在于,所述方法包括: 步骤S1:获取用户输入的请求,将所述请求输入至大语言模型中,得到所述大语言模型输出的多个子步骤,其中,所述大语言模型用于将所述请求作为蒙特卡洛树的根节点,基于思维链技术,推理得到相当于所述蒙特卡洛树的同一层级的叶子节点的所述多个子步骤; 步骤S2:将所述多个子步骤分别送入执行器中执行,并基于所述大语言模型对所述多个子步骤分别进行打分,得到每个子步骤各自对应的得分结果; 步骤S3:基于所述得分结果选取得分最高的子步骤,并将所述得分最高的子步骤和所述请求输入至所述大语言模型中,得到所述大语言模型输出的多个新的子步骤,其中,所述大语言模型用于基于所述请求、所述得分最高的子步骤和所述思维链技术,推理得到相当于所述蒙特卡洛树的下一层级的叶子节点的所述多个新的子步骤,所述下一层级的叶子节点为基于所述得分最高的子步骤扩展出的下一层级的叶子节点; 步骤S4:将所述多个新的子步骤分别送入所述执行器中执行,并基于所述大语言模型和所述得分最高的子步骤的得分,对多个新的子步骤分别进行打分,得到每个新的子步骤各自对应的得分结果; 步骤S5:重复执行所述步骤S3和所述步骤S4,直至新的子步骤的得分结果大于预设阈值,则记录由每一层级的叶子节点中,得分最高的子步骤所形成的解决方案;或者,直至基于所述请求和所述大语言模型,由所述大语言模型确定出由每一层级的叶子节点中,得分最高的子步骤所形成的解决方案有效; 步骤S6:将所述解决方案作为所述请求的目标解决方案。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京九章云极科技有限公司,其通讯地址为:100085 北京市海淀区小营西路10号院1号楼和盈中心C座6层及8层;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励