厦门理工学院李建敏获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉厦门理工学院申请的专利基于元网络梯度对齐的并行切分学习方法、装置及设备获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121562858B 。
龙图腾网通过国家知识产权局官网在2026-03-24发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202610077319.7,技术领域涉及:G06N20/00;该发明授权基于元网络梯度对齐的并行切分学习方法、装置及设备是由李建敏;方震;朱顺痣;洪学敏;杨淼;李林;林政;方子涵设计研发完成,并于2026-01-21向国家知识产权局提交的专利申请。
本基于元网络梯度对齐的并行切分学习方法、装置及设备在说明书摘要公布了:本发明提供的基于元网络梯度对齐的并行切分学习方法、装置及设备,涉及分布式机器学习技术领域。本发明通过服务器接收各客户端上传的中间特征,通过分层采样构建类别均衡的无偏查询集;利用轻量级元网络计算客户端梯度与查询集梯度的梯度对齐分数;结合动态温度参数生成归一化重要性权重;在反向传播中对客户端梯度进行加权缩放,实现噪声梯度的物理阻断。本申请能够在不访问原始数据的前提下,有效缓解非独立同分布与长尾分布导致的梯度冲突和训练偏差,提升模型收敛稳定性与泛化能力。
本发明授权基于元网络梯度对齐的并行切分学习方法、装置及设备在权利要求书中公布了:1.一种基于元网络梯度对齐的并行切分学习方法,应用于服务器端,其特征在于,包括: S1,接收多个客户端上传的中间特征,通过分层采样构建类别均衡的查询集作为全局无偏优化目标; S2,利用轻量级元网络计算每个客户端梯度与查询集梯度之间的梯度对齐分数; S3,基于所述梯度对齐分数结合动态温度参数生成客户端的重要性权重; S4,在反向传播中,依据所述重要性权重对各客户端梯度进行加权缩放,以过滤冲突梯度,聚合有效梯度,更新全局模型广播至各客户端; 其中,利用轻量级元网络计算每个客户端梯度与查询集梯度之间的梯度对齐分数,具体为: 首先利用轻量级元网络,以寻找最优权重为目标,使模型在查询集上的损失最小化; 接着基于查询集的损失进行一阶泰勒展开,以量化客户端梯度对全局优化的贡献,公式为: ; 其中,为查询集损失;为第k个客户端对应的权重;为求导符号;为近似正比关系;为第t轮全局模型参数;T为转置符号;为关于查询集损失的梯度,即全局无偏梯度;为第t轮第k个客户端的梯度,即客户端本地梯度;为查询集对应的全局无偏梯度;为第k个客户端的本地损失梯度; 然后计算查询集对应的全局无偏梯度与客户端的本地梯度的向量点积,得到梯度对齐分数,表达式为: ; 其中,为第k个客户端的梯度对齐分数; 最后基于所述梯度对齐分数判断客户端的梯度价值:当,表示客户端梯度与全局方向一致,增大权重;当,表示客户端梯度与全局方向冲突,减小权重; 所述重要性权重的公式为: ; 其中,为第k个客户端的归一化重要性权重;为第t轮动态温度参数;为客户端总数;、为第k、j个客户端的梯度对齐分数; 依据所述重要性权重对各客户端梯度进行加权缩放,以过滤冲突梯度,聚合有效梯度,更新全局模型,具体为: 依据所述重要性权重构建加权聚合损失函数,公式为: ; 其中,为加权聚合损失函数;为客户端总数;为第k个客户端的归一化重要性权重;为第k个客户端的本地损失; 通过链式法则将加权聚合损失反向传播至客户端,利用权重对客户端梯度进行缩放,表达式为: ; 其中,为反向传播至第k个客户端的缩放后梯度;为第k个客户端上传的中间特征; 对于梯度方向冲突的客户端,重要性权重趋于0,则也趋于0,以实现噪声梯度的物理阻断,完成鲁棒梯度校准。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人厦门理工学院,其通讯地址为:361024 福建省厦门市集美区理工路600号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励