Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 南京大学郑嘉琦获国家专利权

南京大学郑嘉琦获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉南京大学申请的专利基于Top-k的支持复杂网络状况的自适应分布式梯度压缩方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN113988266B

龙图腾网通过国家知识产权局官网在2025-06-27发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202111282366.9,技术领域涉及:G06N3/0464;该发明授权基于Top-k的支持复杂网络状况的自适应分布式梯度压缩方法是由郑嘉琦;李雪中;陈贵海设计研发完成,并于2021-11-01向国家知识产权局提交的专利申请。

基于Top-k的支持复杂网络状况的自适应分布式梯度压缩方法在说明书摘要公布了:本发明公开了基于Top‑k的支持复杂网络状况的自适应分布式梯度压缩方法,包括各分布式节点运行深度神经网络学习模型,完成梯度计算过程,保存当前轮数的训练精准度;运用事先部署于各分布式节点的自适应梯度压缩算法针对不同的网络状况产生压缩率调整决策;针对产生的压缩率调整决策,在各个分布式节点中自适应改变当前梯度压缩率;分布式梯度通信过程完成后,各分布式节点保存当前轮数的通信时间,重复进行下一轮的分布式神经神经网络训练。本发明结合分布式深度神经网络训练中的多维度评估特征进行自适应地调整梯度通信压缩率,适用于复杂的实时网络情况,减少分布式深度神经网络的训练时间,提升测试数据集的精准度。

本发明授权基于Top-k的支持复杂网络状况的自适应分布式梯度压缩方法在权利要求书中公布了:1.基于Top-k的支持复杂网络状况的自适应分布式梯度压缩方法,其特征在于,包括: S1,针对复杂网络,各分布式节点独立运行所持的深度神经网络学习模型,完成梯度计算过程,保存当前轮数的训练精准度,所述复杂网络包括静态网络场景和动态网络场景; S2,结合之前若干轮数段的训练精准度和梯度通信时间,运用事先部署于各分布式节点的自适应梯度压缩算法针对不同的网络状况产生压缩率调整决策; 步骤S2包含以下步骤: S21,针对静态网络场景,各节点收集上一轮数段的模型精准度和梯度通信时间,其中静态网络场景是指网络带宽不随着时间发生变化; S22,在各个分布式节点中运行基于强化学习思想构建的深度决策网络模型,该深度决策网络模型用于在线实时产生梯度压缩调整策略,以适应不断变化的模型精准度; 其中深度决策网络模型的输入为上一轮数中的训练精准度和通信时间,将二者归一化后生成对应的奖励值,通过模型训练产生输出,输出相应的基于原梯度压缩值变化的多种动作; S23,针对动态网络场景,各节点收集前若干轮数段的训练精准度和梯度通信时间,其中动态网络场景是指网络带宽伴随时间发生变化; S24,在各个分布式节点中运行基于训练精准度和通信时间增长速度的自适应压缩率算法,通过比较训练精准度和通信时间的增长速度来以一定的概率进行压缩值的改变; S3,针对产生的压缩率调整决策,在各个分布式节点中自适应改变当前梯度压缩率,即Top-k中k的大小; S4,在分布式通信过程中各个节点完成针对压缩梯度的聚合更新,并保存当前轮数的通信时间,随后各节点根据更新后的梯度独立运行更新所持有的深度神经网络学习模型; S5,重复S1至S4的操作。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人南京大学,其通讯地址为:210023 江苏省南京市栖霞区仙林大道163号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。