厦门理工学院章辰洋获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉厦门理工学院申请的专利一种基于自适应神经编码的梯度压缩方法及梯度压缩器获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121303211B 。
龙图腾网通过国家知识产权局官网在2026-03-06发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511871591.4,技术领域涉及:G06N3/0495;该发明授权一种基于自适应神经编码的梯度压缩方法及梯度压缩器是由章辰洋;朱顺痣;杨淼;林泽杭;林政;杜侠;李建敏;李林;王大寒设计研发完成,并于2025-12-12向国家知识产权局提交的专利申请。
本一种基于自适应神经编码的梯度压缩方法及梯度压缩器在说明书摘要公布了:本发明提供的一种基于自适应神经编码的梯度压缩方法及梯度压缩器,应用于客户端,涉及分布式机器学习与通信压缩技术领域。本发明通过获取原始特征梯度,计算梯度元素的重要性分数以自适应生成采样概率,并通过可微分采样机制生成采样掩码,以对所述原始特征梯度进行加权校正,得到加权校正后的梯度;接着输入基于多层感知机架构的轻量级神经编码器编码映射为低维潜在表示;利用可学习的量化码本对所述低维潜在表示进行软分配量化,输出离散化表示传输给服务器端,以通过服务器端的解码器重构为压缩梯度。本申请能够在高压缩率下有效保留关键梯度信息,显著降低通信开销,同时维持模型收敛速度与精度,适用于联邦学习和边缘计算等资源受限场景。
本发明授权一种基于自适应神经编码的梯度压缩方法及梯度压缩器在权利要求书中公布了:1.一种基于自适应神经编码的梯度压缩方法,应用于客户端,其特征在于,包括: 获取原始特征梯度; 基于所述原始特征梯度,计算梯度元素的重要性分数以自适应生成采样概率,并通过可微分采样机制生成采样掩码,以对所述原始特征梯度进行加权校正,得到加权校正后的梯度; 将加权校正后的梯度输入基于多层感知机架构的轻量级神经编码器编码映射为低维潜在表示; 利用可学习的量化码本对所述低维潜在表示进行软分配量化,输出离散化表示传输给服务器端,以通过服务器端的解码器重构为压缩梯度; 其中,所述梯度元素的重要性分数的计算公式为: ; 其中,为梯度元素的重要性分数;为原始特征梯度的第i个梯度元素;表示总训练轮次;为连续多轮未更新的次数;为衰减系数;t为训练步数索引;为指数函数; 自适应生成采样概率的公式为: ; 其中,为梯度元素的采样概率;为采集集中度系数,用于控制采样的集中度;为梯度元素的重要性分数;为原始特征梯度的维度数; 基于采样概率,在采样时引入Gumbel噪声进行可微分采样,得到近似采样概率; 基于所述近似采样概率,通过阈值函数生成二进制采样掩码,以控制元素的选择; 基于所述二进制采样掩码,对原始特征梯度进行重要性采样校正,得到加权校正后的梯度。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人厦门理工学院,其通讯地址为:361024 福建省厦门市集美区理工路600号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励