北京衔远有限公司;北京衔远科技有限公司田锴获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉北京衔远有限公司;北京衔远科技有限公司申请的专利一种响应文本的生成方法、装置、电子设备及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120354951B 。
龙图腾网通过国家知识产权局官网在2025-11-21发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510804376.6,技术领域涉及:G06N5/04;该发明授权一种响应文本的生成方法、装置、电子设备及存储介质是由田锴;谢树雷;郑元春设计研发完成,并于2025-06-17向国家知识产权局提交的专利申请。
本一种响应文本的生成方法、装置、电子设备及存储介质在说明书摘要公布了:本申请涉及计算机技术领域,提供了一种响应文本的生成方法、装置、电子设备及存储介质。该方法通过推测模型生成推测时间步,由于推测模型的参数量小于目标模型,使得推测模型相比于目标模型能够快速生成多个推测时间步,等效减少了目标模型调用次数,例如若推测模型平均每提议3个推测时间步,目标模型验证通过一次,则目标模型调用频率降低到原来的13左右,进而提升了目标模型的响应效率。此外,本申请由于目标模型+过程奖励模型对推测模型输出的推测时间步进行把关,使得最终输出的推测时间步质量接近于目标模型单独推理的水平,从而保证响应文本的正确性。
本发明授权一种响应文本的生成方法、装置、电子设备及存储介质在权利要求书中公布了:1.一种响应文本的生成方法,其特征在于,所述方法包括: 获取由推测模型基于提示词所生成的多个推测时间步; 将多个所述推测时间步输入到目标模型,使得所述目标模型基于多个所述推测时间步并行生成所述推测时间步对应的参考时间步,所述目标模型的参数量大于所述推测模型的参数量; 将多个所述推测时间步和多个所述参考时间步输入到过程奖励模型,使得所述过程奖励模型基于所述参考时间步对对应的所述推测时间步进行验证; 在所述过程奖励模型确定所述推测时间步的验证结果为通过时,将所述推测时间步作为所述目标模型的输出,以确定所述提示词对应的响应文本; 将多个所述推测时间步输入到目标模型,使得所述目标模型基于多个所述推测时间步并行生成所述推测时间步对应的参考时间步,包括:将多个所述推测时间步输入到所述目标模型,使得所述目标模型并行为第1至第N个所述推测时间步生成对应的参考时间步,其中,第i个所述推测时间步对应的所述参考时间步,是根据第1至第i-1个所述推测时间步所生成的,N为多个所述推测时间步的数量,i的取值范围为2至N。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京衔远有限公司;北京衔远科技有限公司,其通讯地址为:100080 北京市海淀区学院路51号首享科技大厦第三层306室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励