Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 清华大学郭雨晨获国家专利权

清华大学郭雨晨获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉清华大学申请的专利基于保秩分解与知识蒸馏的图像领域模型压缩方法、装置、设备及介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119942275B

龙图腾网通过国家知识产权局官网在2025-07-22发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510413975.5,技术领域涉及:G06V10/778;该发明授权基于保秩分解与知识蒸馏的图像领域模型压缩方法、装置、设备及介质是由郭雨晨;戴琼海;秦升荣设计研发完成,并于2025-04-03向国家知识产权局提交的专利申请。

基于保秩分解与知识蒸馏的图像领域模型压缩方法、装置、设备及介质在说明书摘要公布了:本发明提供了一种基于保秩分解与知识蒸馏的图像领域模型压缩方法、装置、设备及介质,涉及计算机领域。包括:获取待部署压缩后的学生图像处理模型的目标设备的设备参数值,根据设备参数值确定学生图像处理模型的目标参数量;按照目标参数量对预训练的教师图像处理模型执行克罗内克分解,将执行分解后的模型作为待训练的学生图像处理模型;利用样本图像以预训练的教师图像处理模型为学习目标,对待训练的学生图像处理模型进行知识蒸馏训练得到压缩后的学生图像处理模型;将待处理图像输入压缩后的学生图像处理模型得到图像处理结果,从而在保持图像处理模型表达能力的情况下,压缩图像处理模型的模型参数,节约模型部署设备的存储空间和计算资源。

本发明授权基于保秩分解与知识蒸馏的图像领域模型压缩方法、装置、设备及介质在权利要求书中公布了:1.一种基于保秩分解与知识蒸馏的图像领域模型压缩方法,其特征在于,所述方法包括: 获取待部署压缩后的学生图像处理模型的目标设备的设备参数值,所述设备参数值包括以下至少一者:存储空间大小、运算速度; 根据所述设备参数值,确定所述学生图像处理模型的目标参数量; 按照所述目标参数量,对预训练的教师图像处理模型执行克罗内克分解,将执行克罗内克分解后的模型作为待训练的学生图像处理模型; 利用样本图像,以所述预训练的教师图像处理模型为学习目标,对所述待训练的学生图像处理模型进行知识蒸馏训练,得到所述压缩后的学生图像处理模型,所述预训练的教师图像处理模型用于以下任一者:图像分类、图像分割、目标检测; 将待处理图像输入所述压缩后的学生图像处理模型,得到图像处理结果,所述图像处理结果为以下任一者:图像分类结果、图像分割结果、目标检测结果; 其中,所述预训练的教师图像处理模型为Transformer模型;按照所述目标参数量,对预训练的教师图像处理模型执行克罗内克分解,将执行克罗内克分解后的模型作为待训练的学生图像处理模型,至少包括: 在所述预训练的教师图像处理模型的多头自注意力层中,将所有自注意力头的键矩阵K、查询矩阵Q和值矩阵V的权重矩阵分别拼接,得到拼接后的权重矩阵、和; 按照第二目标参数量,确定第二对克罗内克注意力权重矩阵的行数为所述拼接后的权重矩阵、和的行数的最大公约数,并确定第二对克罗内克注意力权重矩阵的列数是所述拼接后的权重矩阵、和的列数的最大公约数; 根据所述拼接后的权重矩阵、和的尺寸和第二对克罗内克注意力权重矩阵尺寸,确定第一对克罗内克注意力权重矩阵尺寸; 对所述拼接后的权重矩阵、和分别执行克罗内克分解,得到克罗内克注意力权重矩阵组、和,并作为所述待训练的学生图像处理模型的多头自注意力层,所述克罗内克注意力权重矩阵组、和分别包括:符合所述第一对克罗内克注意力权重矩阵尺寸的矩阵,和,符合所述第二对克罗内克注意力权重矩阵尺寸的矩阵。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人清华大学,其通讯地址为:100084 北京市海淀区双清路30号清华大学;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。