中国科学院香港创新研究院人工智能与机器人创新中心;中国科学院自动化研究所陈阵获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中国科学院香港创新研究院人工智能与机器人创新中心;中国科学院自动化研究所申请的专利基于联合生成式预训练的大语言模型的训练方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119128798B 。
龙图腾网通过国家知识产权局官网在2025-11-28发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411183055.0,技术领域涉及:G06F18/25;该发明授权基于联合生成式预训练的大语言模型的训练方法及装置是由陈阵;吴锦林;骆行健;刘宏斌;王金桥;雷震设计研发完成,并于2024-08-27向国家知识产权局提交的专利申请。
本基于联合生成式预训练的大语言模型的训练方法及装置在说明书摘要公布了:本发明提供一种基于联合生成式预训练的大语言模型的训练方法及装置,获取医疗图像以及描述文本,通过视觉编码器进行编码,得到特征图;针对特征图中的每个像素编码,从多模态大语言模型的原始统一码本中,查询像素编码的相似编码,得到码本图以及量化特征图;获取查询指示图,对原始统一码本进行相似编码筛选,得到筛选更新码本。最后通过多模态大语言模型的模型码本进行衰减更新,得到训练更新码本,并基于所述训练更新码本训练所述多模态大语言模型。通过本申请,克服现有技术中医疗领域的从视觉信息到文本信息的映射学习变得复杂且困难、且信息整合不够精确,导致多模态大语言模型在医疗领域适用性和应用效果受到限制的缺陷。
本发明授权基于联合生成式预训练的大语言模型的训练方法及装置在权利要求书中公布了:1.一种基于联合生成式预训练的大语言模型的训练方法,其特征在于,所述方法包括: 获取医疗图像以及对应的描述文本,通过视觉编码器对所述医疗图像进行编码,得到所述医疗图像的特征图; 针对所述特征图中的每个像素编码,从多模态大语言模型的原始统一码本中,查询所述像素编码的相似编码,得到码本图以及所述码本图对应的量化特征图; 获取查询指示图,并基于所述查询指示图对所述原始统一码本进行相似编码的筛选,得到筛选更新码本,其中,所述查询指示图是基于扁平化的所述量化特征图确定得到的; 通过所述多模态大语言模型的模型码本对所述筛选更新码本进行衰减更新,得到训练更新码本,并基于所述训练更新码本训练所述多模态大语言模型,其中,所述模型码本是根据所述特征图和所述描述文本的文本特征进行融合得到的。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国科学院香港创新研究院人工智能与机器人创新中心;中国科学院自动化研究所,其通讯地址为:中国香港新界白石角香港科学园科技大道西17号楼301-303, 305-309, 317-320室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励