陕西科技大学王鑫获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉陕西科技大学申请的专利改进的横向同步联邦学习聚合加速方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116629350B 。
龙图腾网通过国家知识产权局官网在2025-12-19发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310721384.5,技术领域涉及:G06N3/098;该发明授权改进的横向同步联邦学习聚合加速方法是由王鑫;丁雪爽;吴浩宇;雷涛设计研发完成,并于2023-06-16向国家知识产权局提交的专利申请。
本改进的横向同步联邦学习聚合加速方法在说明书摘要公布了:本发明横向同步联邦学习聚合加速方法,步骤如下:客户端接收服务器发送的全局模型和客户端贡献值;客户端使用本地数据集训练局部模型,并计算散度阈值,准备发送训练完成的局部模型;客户端利用差值矩阵与梯度压缩算法优化局部模型,并发送优化的局部模型至服务器,服务器将接收的所有模型存入缓冲区,并计算信息熵;服务器计算上一轮客户端的贡献值,并保存信息熵,服务器从缓冲区取出所有局部模型,并基于局部模型的贡献值加权聚合得到新的全局模型;服务器向客户端发送上一轮的贡献值和新的全局模型,客户端接收服务器发送的全局模型,进行下一轮训练。本发明能够提高横向同步联邦训练模型的准确度、降低客户端到服务器端通信资源与时间开销。
本发明授权改进的横向同步联邦学习聚合加速方法在权利要求书中公布了:1.横向同步联邦学习聚合加速方法,其特征在于,步骤如下: 步骤1,客户端接收服务器发送的全局模型和客户端贡献值; 步骤2,客户端使用本地数据集训练局部模型,并计算散度阈值,准备发送训练完成的局部模型;其中,在局部模型训练阶段,客户端计算局部模型的散度阈值来判断局部模型的更新是否充分,都更新足够充分时,客户端才会向服务器发送局部模型,负责继续局部训练; 步骤3,客户端利用差值矩阵与梯度压缩算法优化局部模型,并发送优化的局部模型至服务器,服务器将接收的所有模型存入缓冲区,并计算信息熵;其中,优化局部模型的方法如下: 1客户端计算差值矩阵,设每轮参与训练的客户端有M个,i∈[1,M],M为参与训练的客户端最大个数,在局部模型与全局模型之间的差异较小时,即ε为任意常数趋近于0,客户端依旧向服务器发送本地训练的局部模型会造成通信资源的浪费,让客户端仅发送局部模型与全局模型的差值来减少发送至服务器的数据量,即客户端发送全局模型与局部模型的差值矩阵至服务器; 2通过深度梯度压缩算法,并将计算结果发送至服务器端,引入一种深度梯度压缩策略,选定一个压缩阈值常数th,训练过程中先不发送数值较小的中间值,而是将其保存下来与下一轮的矩阵同位置的中间值累加,当该中间值足够大即中间值th时,再向服务器发送该中间值; 步骤4,服务器计算上一轮客户端的贡献值,并保存信息熵,服务器从缓冲区取出所有局部模型,并基于局部模型的贡献值加权聚合得到新的全局模型,方法如下: 1在全局模型聚合阶段,当服务器完成所有参与方的贡献值与信息熵计算后,将各个客户端的贡献度与其数据集占比作为权重,进行第t+1轮的全局模型wt聚合,公式如下: 其中,DiD表示客户端i与全体客户端数据集比重; 2服务器在得到t+1全局模型wt+1后,将wt和客户端贡献值γi一并下发至参与训练的客户端处,客户端接收全局模型wt+1,进行新一轮的训练; 步骤5,服务器向客户端发送上一轮的贡献值和新的全局模型,客户端接收服务器发送的全局模型,进行下一轮训练。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人陕西科技大学,其通讯地址为:710021 陕西省西安市未央区大学园区陕西科技大学;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励