Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 浙江大学刘一铭获国家专利权

浙江大学刘一铭获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉浙江大学申请的专利一种生成对抗网络的知识蒸馏方法、装置、设备及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116383639B

龙图腾网通过国家知识产权局官网在2025-11-04发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310030259.X,技术领域涉及:G06F18/214;该发明授权一种生成对抗网络的知识蒸馏方法、装置、设备及存储介质是由刘一铭;沈海斌设计研发完成,并于2023-01-10向国家知识产权局提交的专利申请。

一种生成对抗网络的知识蒸馏方法、装置、设备及存储介质在说明书摘要公布了:本发明公开一种生成对抗网络的知识蒸馏方法,所述方法包括:构建训练数据集,对原始图像数据集进行预处理得到训练数据集;训练教师网络,根据图像生成任务选择教师网络模型并训练;构建学生网络,压缩原始生成对抗网络的结构得到学生网络并将其初始化;学生网络的蒸馏训练,确定知识蒸馏框架,采用短期蒸馏的策略进行训练,得到轻量化生成器。本发明通过短期蒸馏的训练策略有效提升了生成对抗网络知识蒸馏训练的效果,进而增强了轻量化生成器的性能,可以生成逼真的高分辨率图像;并且本发明所得到的轻量化生成器能够在硬件资源受限的设备上运行,具有低交互延迟、低内存占用的优点。

本发明授权一种生成对抗网络的知识蒸馏方法、装置、设备及存储介质在权利要求书中公布了:1.一种生成对抗网络的知识蒸馏方法,其特征在于,所述方法包括: 步骤1、构建训练数据集,对原始图像数据集进行预处理得到训练数据集; 步骤2、训练教师网络,根据图像生成任务选择教师网络模型并训练; 步骤3、构建学生网络,压缩原始生成对抗网络的结构得到学生网络并将其初始化;所述构建学生网络的具体步骤包括: 确定学生网络的压缩方式,由生成对抗网络的特点决定对生成器进行压缩,通过降低生成网络卷积通道数实现; 确定学生网络的结构,为了根据计算量要求降低卷积通道数,训练一个通道数可变的生成对抗网络,利用InceptionScore评价不同通道数配置下该网络的生成质量,通过进化算法搜索得到给定计算量要求下最优的生成器结构,根据搜索得到的结构建立学生网络的生成器,判别器结构采用与教师网络相同的设置; 对学生网络进行初始化,除了其生成器中的映射网络需要继承教师网络中的参数外,其它部分都进行随机初始化; 步骤4、学生网络的蒸馏训练,确定知识蒸馏框架,采用短期蒸馏的策略进行训练,得到轻量化生成器; 所述知识蒸馏框架包括学生网络在进行对抗训练的同时通过知识蒸馏学习教师网络的输出,要求学生网络在相同噪声输入下得到与教师网络相似的输出,将像素损失和感知损失作为蒸馏损失衡量输出差距,学生网络在教师网络和判别器的监督下进行训练,通过真实图像融合教师网络指导,能较好地避免学生网络生成颜色和轮廓模糊的图像,生成对抗网络知识蒸馏训练的目标函数表示为: 其中,是对抗训练的损失函数,和分别是像素损失和感知损失,λpixel和λpercept是这两种蒸馏损失的权重系数,Ds是学生的判别器,Gs和Gt分别代表教师生成器和学生生成器,x是训练数据集中的图像,z是正态噪声,是教师生成器和学生生成器生成图像之间的误差,即各像素值的差的绝对值;采用预训练的LPIPS模型计算教师和学生输出之间的相似度作为感知损失,LPIPS模型能提取图像轮廓和纹理信息,进而增强知识蒸馏的效果; 所述短期蒸馏的策略包括以下两个阶段: 第一阶段:同时进行知识蒸馏和对抗训练; 第二阶段:开始逐渐停止知识蒸馏,最终只进行对抗训练; 故训练的目标函数为: 其中,λ为蒸馏损失的权重系数,n表示训练的轮次,nk为进入第二阶段训练对应的轮次,nper表示权重下降的轮次,∈为蒸馏权重下降的比例常数。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人浙江大学,其通讯地址为:310000 浙江省杭州市西湖区余杭塘路866号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。