复旦大学姜育刚获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉复旦大学申请的专利一种多模态生成式预训练方法、系统及图像问答生成方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121212375B 。
龙图腾网通过国家知识产权局官网在2026-02-13发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511768852.X,技术领域涉及:G06N5/04;该发明授权一种多模态生成式预训练方法、系统及图像问答生成方法是由姜育刚;吴祖煊;陈义桐设计研发完成,并于2025-11-28向国家知识产权局提交的专利申请。
本一种多模态生成式预训练方法、系统及图像问答生成方法在说明书摘要公布了:本发明涉及一种多模态生成式预训练方法、系统及图像问答生成方法,获取视觉模态数据、语言模态数据以及多模态数据;通过自监督的对比学习范式,在视觉模态数据上训练视觉基座模型,并保存预测层权重作为视觉原型;通过自监督的词元预测范式,在语言模态数据上训练语言基座模型,并保存词嵌入权重视作语言原型;将训练好的视觉基座模型和语言基座模型桥接,通过多模态词元预测范式,获取词元预测损失;在多模态数据上进行跨模态知识蒸馏与自模态知识蒸馏,并进行有监督预训练。与现有技术相比,本发明能够有效利用视觉模态和语言模态的先验信息,并通过统一的多模态生成式预训练,实现对跨模态场景下的高精度理解与推理。
本发明授权一种多模态生成式预训练方法、系统及图像问答生成方法在权利要求书中公布了:1.一种多模态生成式预训练方法,其特征在于,步骤包括: 获取视觉模态数据、语言模态数据以及多模态数据; 通过自监督的对比学习范式,在视觉模态数据上训练视觉基座模型,并保存预测层权重作为视觉原型; 通过自监督的词元预测范式,在语言模态数据上训练语言基座模型,并保存词嵌入权重视作语言原型; 将分别训练好的视觉基座模型和语言基座模型通过适配层进行桥接,在多模态数据上通过多模态词元预测,得到词元预测损失;进行跨模态知识蒸馏与自模态知识蒸馏,得到跨模态以及自模态知识蒸馏损失;所述跨模态知识蒸馏,采用语言原型替换预测层权重以对齐不同模态;所述自模态知识蒸馏,采用视觉原型替换预测层权重的方式保持模态一致性; 结合词元预测损失、跨模态知识蒸馏损失与自模态知识蒸馏损失,对桥接后的模型进行有监督预训练。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人复旦大学,其通讯地址为:200433 上海市杨浦区邯郸路220号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励