Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 北京大学王勇涛获国家专利权

北京大学王勇涛获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉北京大学申请的专利基于可学习特征变换的神经网络知识蒸馏方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115565021B

龙图腾网通过国家知识产权局官网在2025-12-19发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211196707.5,技术领域涉及:G06V10/77;该发明授权基于可学习特征变换的神经网络知识蒸馏方法是由王勇涛;刘子炜设计研发完成,并于2022-09-28向国家知识产权局提交的专利申请。

基于可学习特征变换的神经网络知识蒸馏方法在说明书摘要公布了:本发明提出了一种基于可学习特征变换的神经网络知识蒸馏方法,属于计算机视觉技术领域。本发明对齐学生模型与教师模型的中间特征和输出结果,无需针对不同任务设计复杂的特征变换模块,不引入复杂的超参数,免去了繁琐的参数调整步骤,可以提高知识蒸馏在多个任务上的通用性,提升知识蒸馏效果的同时免去了手工设计结构的繁琐,在多个计算机视觉任务上如图片分类、目标检测、语义分割等实现了性能提升。

本发明授权基于可学习特征变换的神经网络知识蒸馏方法在权利要求书中公布了:1.一种基于可学习特征变换的知识蒸馏方法,其特征在于,其步骤包括: 1将输入数据输入教师模型,所述教师模型的中间层输出第一特征图,将所述输入数据输入学生模型,所述学生模型的中间层输出第二特征图; 2将第二特征图与第一特征图进行空间维度和通道维度上的对齐,对齐后的特征图通过一个多层感知机模块得到第三特征图;同时,对对齐后的特征图的形状展开和转置,再通过另一个多层感知机模块得到变换后的特征图,再将变换后的特征图形状恢复成变换前的形状,得到第四特征图;具体包括: S21:通过双线性插值和1x1卷积将所述第二特征图与所述第一特征图进行空间维度和通道维度上的对齐,得到对齐后的特征图; S22:将所述对齐后的特征图通过一个隐藏层数为1,激活函数为ReLU的多层感知机模块得到第三特征图; S23:设所述对齐后的特征图形状为[N,C,H,W],将该特征图的形状通过展开和转置操作调整为[N,H*W,C],将调整后的特征图通过一个隐藏层数为1,激活函数为ReLU的多层感知机模块得到变换后的特征图,再将变换后的特征图形状调整为[N,C,H,W]得到所述第四特征图; 3计算第一特征图和第三特征图间的均方差损失作为空间特征损失,计算第一特征图和第四特征图间的均方差损失作为通道特征损失,将所述空间特征损失和所述通道特征损失加权求和作为教师模型与学生模型间的知识蒸馏损失函数;具体包括: S31:计算所述第一特征图和所述第三特征图间的均方差损失作为所述空间特征损失,其表达式为: 其中为所述第一特征图,为所述第三特征图; S32:计算所述第一特征图和所述第四特征图间的均方差损失作为所述通道特征损失,其表达式为: ; 其中为所述第一特征图,为所述第四特征图 S33:将所述空间特征损失和所述通道特征损失加权求和得到所述知识蒸馏损失函数,其表达式为: ; 4根据所述知识蒸馏损失函数,对学生模型进行训练实现知识蒸馏。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京大学,其通讯地址为:100871 北京市海淀区颐和园路5号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。