百度在线网络技术(北京)有限公司尉德利获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉百度在线网络技术(北京)有限公司申请的专利基于大模型的推测解码方法、装置、设备以及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119806649B 。
龙图腾网通过国家知识产权局官网在2026-05-01发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411886929.9,技术领域涉及:G06F9/38;该发明授权基于大模型的推测解码方法、装置、设备以及存储介质是由尉德利;希滕;张刚;刘珊珊设计研发完成,并于2024-12-19向国家知识产权局提交的专利申请。
本基于大模型的推测解码方法、装置、设备以及存储介质在说明书摘要公布了:本公开提供了基于大模型的推测解码方法、装置、设备以及存储介质,涉及人工智能技术领域,尤其涉及计算机视觉、深度学习、大模型等技术领域。具体实现方案为:将第一词元序列输入第一大模型,得到第二词元序列;其中,该第一大模型是根据第二大模型量化得到的,该第一词元序列基于多模态数据得到;将该第一词元序列和该第二词元序列输入该第二大模型,得到第三词元序列;根据该第二词元序列和该第三词元序列进行验证,得到推测解码结果。
本发明授权基于大模型的推测解码方法、装置、设备以及存储介质在权利要求书中公布了:1.一种基于大模型的推测解码方法,包括: 将图像输入视觉编码器,得到视觉词元序列; 将文本输入文本编码器,得到文本词元序列; 将所述视觉词元序列和所述文本词元序列拼接,得到第一词元序列; 将所述第一词元序列输入第一大模型,得到第二词元序列;其中,所述第一大模型是根据第二大模型量化得到的,所述第一词元序列基于多模态数据得到;所述第一词元序列的长度为t,所述第二词元序列的长度为n,所述第二词元序列包括所述第一大模型基于所述第一词元序列预测的第t+1个词元到第t+n个词元,本次输入所述第一大模型的词元序列与本次所述第一大模型预测的词元拼接作为下一次输入所述第一大模型的词元序列;其中,所述多模态数据包括图像和文本; 将所述第一词元序列和所述第二词元序列输入所述第二大模型,得到第三词元序列;其中,所述第三词元序列的长度为n,所述第三词元序列包括所述第二大模型基于所述第一词元序列和所述第二词元序列拼接后的拼接序列预测的第t+n+1个词元到第t+n+n个词元,本次输入所述第二大模型的词元序列与本次所述第二大模型预测的词元拼接作为下一次输入所述第二大模型的词元序列; 根据所述第二词元序列和所述第三词元序列进行验证,得到推测解码结果。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人百度在线网络技术(北京)有限公司,其通讯地址为:100085 北京市海淀区上地十街10号百度大厦三层;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励