华南理工大学谭明奎获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉华南理工大学申请的专利一种生成式无数据量化方法、识别方法、装置及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115223209B 。
龙图腾网通过国家知识产权局官网在2026-02-24发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210703685.0,技术领域涉及:G06V40/12;该发明授权一种生成式无数据量化方法、识别方法、装置及存储介质是由谭明奎;许守恺;张书海;黎浩坤设计研发完成,并于2022-06-21向国家知识产权局提交的专利申请。
本一种生成式无数据量化方法、识别方法、装置及存储介质在说明书摘要公布了:本发明公开了一种生成式无数据量化方法、识别方法、装置及存储介质,其中方法包括:收集目标的数据集,根据所述数据集对全精度神经网络进行预训练,获得全精度预训练模型;根据全精度预训练模型训练知识匹配数据生成器,并生成伪数据作为生成数据;其中,知识匹配数据生成器从全精度预训练模型中挖掘原始数据的分类信息和分布信息;使用所述生成数据驱动全精度模型的量化,获得量化模型;根据知识匹配数据生成器迭代优化量化模型。本发明通过知识匹配数据生成器从全精度预训练模型中挖掘对量化模型有指导作用的知识,如数据类别信息和分布信息,从而提供量化模型的精准度,进而提高物体分类的精准度。本发明可广泛应用于数据处理技术领域。
本发明授权一种生成式无数据量化方法、识别方法、装置及存储介质在权利要求书中公布了:1.一种生成式无数据量化方法,其特征在于,包括以下步骤: 收集目标的图片数据集,根据所述图片数据集对全精度神经网络进行预训练,获得全精度预训练模型; 根据全精度预训练模型训练知识匹配数据生成器,并生成伪数据作为生成数据;其中,知识匹配数据生成器从全精度预训练模型中挖掘原始数据的分类信息和分布信息; 使用所述生成数据驱动全精度模型的量化,获得量化模型; 根据知识匹配数据生成器迭代优化量化模型; 所述使用所述生成数据驱动全精度模型的量化,获得量化模型,包括: 对全精度模型进行量化压缩,获得量化模型; 使用交叉熵损失函数对量化模型进行训练微调,使量化模型的性能逼近全精度模型; 使用均方误差函数将全精度预训练模型的输出logits和量化模型输出logits进行对齐,以微调量化模型; 在量化模型中使用全精度预训练模型的归一化统计量,并固定不变; 所述根据全精度预训练模型训练知识匹配数据生成器,包括: 知识匹配数据生成器的定义如下: 式中,表示伪数据,为以标签为条件的噪声向量,表示生成器从噪声中生成数据,表示从高斯分布中采样噪声; 采用交叉熵损失对知识匹配数据生成器进行训练,训练中的损失函数为: 式中,表示交叉熵损失,为知识匹配数据生成器,表示期望值,表示将生成数据输入到全精度模型M中; 采用BNSloss对知识匹配数据生成器进行训练,训练中的损失函数为: 式中,分别是第层BN层中伪数据分布的均值和方差,是存储在全精度预训练模型的第层BN层中的均值和方差参数; 训练中的交叉熵损失函数为: 式中,为量化模型,表示交叉熵损失,表示期望值,表示对量化模型Q的输出和标签求交叉熵损失。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人华南理工大学,其通讯地址为:510641 广东省广州市天河区五山路381号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励