凌云光技术股份有限公司高鹏程获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉凌云光技术股份有限公司申请的专利一种模型预训练方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116129217B 。
龙图腾网通过国家知识产权局官网在2025-12-19发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211744321.3,技术领域涉及:G06T5/60;该发明授权一种模型预训练方法是由高鹏程;唐永亮;彭斌;全煜鸣设计研发完成,并于2022-12-30向国家知识产权局提交的专利申请。
本一种模型预训练方法在说明书摘要公布了:本申请提供的模型预训练方法,通过以预设训练模型为编码器以及掩码图像中图像块特征为输入,获得掩码图像的高维特征;通过将掩码图像的高维特征经过非对称解码获得掩码图像中掩码图像块的预测像素值;最后基于图像掩码像素预测任务和图像高频复原任务,自监督优化训练所述预设训练模型。因此本申请提供模型预训练方法,结合掩码图像像素预测和高频信息复原的预训练任务,使得预训练模型能从大规模无标注的工业图像数据中学习工业领域的知识,进而便于基于无标注的工业领域数据获得更加适配工业领域的预训练模型,使获得的预训练模型在工业下游任务上的性能更加优异,达到了更高的精度和更快的收敛速度。
本发明授权一种模型预训练方法在权利要求书中公布了:1.一种模型预训练方法,其特征在于,所述方法包括: 将输入图像按照预设尺寸划分为若干图像块并获取所述若干图像块的实际像素值; 按照预设概率对所述若干图像块进行随机掩码处理获得未掩码图像块和掩码图像块; 提取所有所述未掩码图像块的特征以及将所有所述掩码图像块的特征替换为与未掩码图像块同维度参数; 以预设训练模型为编码器以及以所述掩码图像块和所述未掩码图像块的特征为输入,获得掩码图像的高维特征; 将所述掩码图像的高维特征经过非对称解码获得所述掩码图像中掩码图像块的预测像素值; 基于图像掩码像素预测任务和图像高频复原任务,自监督优化训练所述预设训练模型;其中:所述图像掩码像素预测任务为计算所有所述掩码图像块的预测像素值与实际像素值之间的差距;所述图像高频复原任务为计算所有所述掩码图像块的预测高频信息图像像素值与真实高频信息图像像素值之间的差距。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人凌云光技术股份有限公司,其通讯地址为:100094 北京市海淀区翠湖南环路13号院7号楼7层701室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励