买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉华东师范大学申请的专利一种无线通信场景下高通信效率的联邦学习方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114580498B 。

龙图腾网通过国家知识产权局官网在2025-11-07发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210093550.7，技术领域涉及：G06N20/00；该发明授权一种无线通信场景下高通信效率的联邦学习方法是由王廷;杨芃设计研发完成，并于2022-01-26向国家知识产权局提交的专利申请。

本一种无线通信场景下高通信效率的联邦学习方法在说明书摘要公布了：本发明公开了一种无线通信场景下高通信效率的联邦学习方法，该方法包括：S1、从无线通信场景下的联邦学习系统、训练算法、通信模型三方面出发构建联邦学习框架；S2、针对构建的联邦学习框架，对其训练过程进行收敛性分析；S3、根据收敛性分析的结果构建一个关于该联邦学习框架的优化问题，并通过一种针对设备选择和波束赋形的联合优化方法来解决该问题。本发明基于空中计算和二阶训练算法，一方面通过信道的波形叠加特性实现低延迟的模型聚合，另一方面通过二阶算法的快速收敛特性减少了训练所需的迭代轮数，解决了目前大部分无线联邦学习方法所存在的通信瓶颈问题。同时，通过所提出的针对联邦学习框架的联合优化方法进一步提升了训练的精确度。

本发明授权一种无线通信场景下高通信效率的联邦学习方法在权利要求书中公布了：1.一种无线通信场景下高通信效率的联邦学习方法，其特征在于，该方法包括以下具体步骤： S1、联邦学习框架的构建 首先对由服务器、设备、无线信道三者构成的联邦学习系统进行建模，并完成对模型训练任务的建模；随后确立用于完成模型训练任务的算法；接着对服务器和设备间的通信模型进行建模；最后将三者整合得到完整的联邦学习框架； S2、通过二阶辅助函数以及向量分解的方式对步骤S1提出的联邦学习框架的训练过程进行收敛性分析； S3、针对收敛性分析结果中每轮训练存在的误差项来构建最小化误差项的优化问题，并通过一种针对设备选择和波束赋形的联合优化方法来解决误差项的优化问题，以提升训练所得到的联邦学习框架模型的精确度；其中： 所述步骤S1具体包括： S11、建立无线联邦学习系统的模型 将无线场景下所进行的联邦学习视作m个单天线设备与一个装有k根天线的服务器共同完成一个模型训练任务的过程；用和来分别表示整体的样本集合和设备集合；设备上存储着数据量大小均为s的本地数据集并有其中∪为集合并操作，ui,j为特征向量，vi,j为对应的标签，并通过zi,j来表示ui,j,vi,j的元组； 接下来将模型训练的任务建模为最小化一个全局的损失函数；每个设备i本地的损失函数建模为其中w∈Rd为模型的参数向量，∑为求和函数，函数f用于衡量模型参数的误差，γ为正则化参数,|·|表示集合大小，||·||为l2范数；基于该本地损失函数，将全局损失函数建模为设备集里所有设备的本地损失函数的平均： S12、确立用于完成模型训练任务的算法 将采用的算法描述为一个迭代的训练过程，并且第t轮迭代的具体过程如下； 1设备选择：服务器决定参与本轮迭代的设备集，并将其记作 2全局模型广播：服务器将当前的全局模型参数wt广播给参与本轮训练的设备； 3本地模型更新：在设备i接收到全局模型参数后，首先根据本地的损失函数计算得到本地梯度值其中f'为一阶导数；随后进一步计算得到本地Hessian矩阵其中f”为二阶导数，Id为d维单位矩阵；最后根据本地梯度和本地Hessian矩阵计算得到本地Newton更新方向其中为二阶偏导，为一阶偏导； 4模型聚合：参与本轮训练的设备将其本地Newton更新方向传输给服务器，服务器聚合平均后得到全局的更新方向其中为第t轮训练过程中所选择的设备集合； 5全局模型更新：服务器通过全局更新方向进行对全局模型参数的更新其中α为学习率； S13、建立S12中模型聚合过程中服务器与设备间的通信模型 首先将服务器与设备间的无线信道视作一个分块的衰落信道，其中每个时间块又被进一步分为d个时间槽来满足一个更新方向向量的传输；采用空中计算来实现模型聚合的过程，令所有设备同时传输其本地的更新方向，并通过无线信道的叠加特性在空中完成求和操作； 具体来说，将空中计算表示为nomographic函数的形式：其中pt,i为设备i在该轮的本地牛顿更新方向，为服务器接受到的全局更新方向，和ψ为预处理和后处理函数，并分别对应于归一化和去归一化处理； 在传输前，首先将设备i的本地更新方向pt,i归一化预处理为st,i:其中 随后将传输信号的每一项xt,i[l],l∈[1,d]表示为：xt,i[l]＝bt,ist,i[l]，其中bt,i∈R为传输能量控制因子；同时每个设备传输能量限制为其中表示任意，E为取均值的操作，P0为最大传输能量； 记ht,i∈Ck为设备i与服务器之间的信道相关系数，将服务器端接收到的信号yt∈Ck表示为其中et∈Ck为有着σ2大小能量的高斯白噪音向量，同时将信噪比SNR定义为P0σ2； 服务器接收到信号后，通过后处理操作得到一个估计值向量,其每一项表示为其中at∈Ck代表服务器接受端的波束成形向量，ηt为调节因子，H为共轭转置；记为信道系数矩阵，为能量传输矩阵，其中diag表示对角矩阵，为信号传输矩阵，其中T为矩阵转置，Et＝[et,1,…,et,d]为噪声矩阵，其中et,i为与et相同的高斯白噪音向量，据此将总的估计值向量rt＝[rt[1],…,rt[d]]化简为其中能量传输矩阵的每一项设置为以提升空中计算的准确度；将该能量传输矩阵的值代入总的估计值向量中得到rt的一个进一步简化形式 最后，通过后处理函数ψ的去归一化操作，服务器得到一个无线场景下的全局更新方向其中为S12中模型聚合操作对本地更新方向平均后的结果； S14、整合得到完整的联邦学习框架 将S11中的无线联邦学习系统模型，S12中针对无线联邦学习模型的训练算法，以及S13中针对训练过程中模型聚合操作的通信模型整合，得到完整的基于空中计算和二阶算法的联邦学习框架，该框架中第t轮训练迭代的过程如下： 服务器首先选择参与本轮迭代训练的设备并将其存为随后服务器将当前的模型参数向量wt广播给参与本轮迭代的设备；接收到参数向量后，每个设备i首先计算得到本地梯度值随后计算得到本地Hessian矩阵并在这两项的基础上计算得到本地的牛顿更新方向接下来，每个设备i将该更新方向编码为其中并将传输信号xt,i[l]＝bt,ist,i[l],l∈[1,d]通过无线信道传输；服务器通过空中计算接受到参与训练的设备同时发送的信号聚合后的结果并通过一系列解码操作最终得到全局更新方向最后在服务器根据该全局更新方向完成本轮训练对全局模型参数的更新所述步骤S2具体包括： 首先，给出全局和本地梯度、全局和本地Hessian矩阵便于进行收敛性分析的表示形式；令其中则全局Hessian矩阵表示为令Nt＝[n1,…,nn]∈Rd×n，其中ni＝f'wt,zi,j，则全局的梯度值表示为令为sketching矩阵，其中Li∈Rn×s为每列仅有一个非零项且该非零项代表被设备i持有的数据的特殊矩阵，将本地Hessian矩阵和本地梯度值分别表示为和 随后，给出用于刻画全局更新方向的准确程度的辅助函数根据该辅助函数为二次函数的特性计算得出其最优点：所得结果为精确的牛顿更新方向，其中argminφ为使函数φ取得最小值的参数； 接下来，将S14中所给出的每轮迭代过程中的全局更新方向拆解为如下形式其中为所给出的联邦学习框架中所采用的全局更新方向，为对参与本轮迭代的设备的本地更新方向的平均结果，为不进行设备选择处理直接对所有设备的本地更新方向平均后的结果，为采用全局梯度来计算本地更新方向并进一步得到全局更新方向的结果； 同时，做出以下假设：1全局损失函数F是光滑的，且光滑系数为L；2全局损失函数F为强凸的；3本地损失函数Fi是二阶可微，光滑和凸的；4本地数据估计值小于某个常量 随后，根据本地Hessian矩阵的性质：其中U为矩阵Mt的正交基，λ为0到1的常数，L为拼接得到的矩阵；以及本地梯度值的性质：其中δ为0到1的常数，ln为自然对数；推算得出本联邦学习框架中的全局更新方向与精确的牛顿更新方向p*间关于辅助函数φp的关系如下：其中其中σmin和σmax分别表示该矩阵的最小和最大奇异值； 最后，根据该全局更新方向与准确牛顿更新方向的性质，推算得出模型参数迭代Δk＝wt-w*的收敛性质：其中Kt为Ht的条件数，每轮训练迭代的误差项为

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人华东师范大学，其通讯地址为：200241 上海市闵行区东川路500号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。