Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 北京交通大学刘海洋获国家专利权

北京交通大学刘海洋获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉北京交通大学申请的专利面向联邦学习的模型剪枝方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115983366B

龙图腾网通过国家知识产权局官网在2025-12-23发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211570645.X,技术领域涉及:G06N3/082;该发明授权面向联邦学习的模型剪枝方法及系统是由刘海洋;杨镕滔;张翱男;金一;王志海设计研发完成,并于2022-12-08向国家知识产权局提交的专利申请。

面向联邦学习的模型剪枝方法及系统在说明书摘要公布了:本发明提供一种面向联邦学习的模型剪枝方法及系统,属于联邦学习技术领域,计算神经网络模型每层卷积层中的卷积核重要性指标,将重要性指标低于阈值的卷积核进行卷积核数目剪枝,计算剩余的卷积核内部每个向量的L1范数,基于预设的阈值对卷积核进行剪枝,完成卷积核尺寸剪枝,从而对卷积核尺寸进行降维。本发明实现了对冗余参数的充分裁剪,极大地提高了模型压缩效率;提出的动态阈值模型剪枝框架在每轮训练中动态调整剪枝范围,使得剪枝率的设置更为合理,并且对模型的敏感层和非敏感层以不同的压缩率进行动态剪枝,达到更好地控制剪枝过程中模型各部分剪枝力度、提高模型性能的目的,并且有利于恢复剪枝后模型的精度。

本发明授权面向联邦学习的模型剪枝方法及系统在权利要求书中公布了:1.一种面向联邦学习的模型剪枝方法,其特征在于,包括: 对于客户端待修剪的用于图像处理的神经网络模型,计算每层卷积层中的卷积核重要性指标;所述卷积核重要性指标按照以下计算步骤确定:计算每层卷积层中各卷积核的信息熵;计算卷积核信息熵的均值和标准差,得到卷积核重要性指标;计算卷积核的信息熵,包括:卷积核中的信息熵根据如下公式计算: ; 其中,是第个卷积层中第个卷积核的权值,是该层的输入通道数即卷积核个数,是该卷积核的大小;把中的元素值均匀地分成个区间,然后计算每个区间对应的频率,表示第个区间内的元素个数占总元素个数的比值; 假设卷积核权值的概率分布近似服从高斯正态分布;已知权值的概率分布时,第个卷积层的第个卷积核的信息熵转化为连续型随机变量的差分熵;把卷积核离散的权重信息转化为利用连续的概率分布计算信息熵;计算卷积核信息熵的均值和标准差,得到卷积核重要性指标,每层卷积层中卷积核的信息熵的均值及标准差根据如下公式计算: ; ; 其中,是当前剪枝轮次,是第层第个卷积核进行第轮剪枝时的信息熵,是第层卷积核信息熵的均值,是第层卷积核信息熵的标准差; 利用动态阈值模型剪枝方法,将重要性指标低于阈值的卷积核进行卷积核数目剪枝;确定所述阈值,包括:在计算得到信息熵的均值和标准差后,引入一个与剪枝轮次有关的参数:; 其中,是双曲正切函数,其定义域为全体实数域,值域为-1,1;为卷积核数目剪枝的总剪枝轮次;当自变量小于0时函数值为负,自变量大于0时函数值为正; 则每轮的剪枝阈值为; 对于卷积核数目剪枝完成后保留的卷积核,计算这些卷积核内部每个向量的L1范数; 基于计算的L1范数,基于预设的阈值对卷积核进行剪枝,完成卷积核尺寸剪枝,从而对卷积核尺寸进行降维。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京交通大学,其通讯地址为:100044 北京市海淀区西直门外上园村3号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。