买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉重庆邮电大学申请的专利一种基于客户端自知识蒸馏的个性化联邦学习实现方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119578512B 。

龙图腾网通过国家知识产权局官网在2026-03-20发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411702116.X，技术领域涉及：G06N3/098；该发明授权一种基于客户端自知识蒸馏的个性化联邦学习实现方法是由苏贞;何万尧设计研发完成，并于2024-11-26向国家知识产权局提交的专利申请。

本一种基于客户端自知识蒸馏的个性化联邦学习实现方法在说明书摘要公布了：本发明公开一种基于客户端自知识蒸馏的个性化联邦学习实现方法。该方法包括：服务端初始化模型并下发给所有客户端；服务端在一个新的通信轮次开始时，向客户端下发全局模型；客户端接收到全局模型后，通过本地聚合模块来更新其本地模型；客户端本地模型参数训练时，通过知识蒸馏将历史个性化模型的知识迁移到当前本地模型中，并动态调整蒸馏损失比重；客户端完成训练后，更新历史个性化模型同时向服务端发送本地模型的参数；服务端根据客户端发送的模型参数加权平均得到新的模型，用于下一个通信轮次的训练；本发明在数据异构的背景下，在不额外增加通信开销的前提下，提高了个性化联邦学习的性能。

本发明授权一种基于客户端自知识蒸馏的个性化联邦学习实现方法在权利要求书中公布了：1.一种基于客户端自知识蒸馏的个性化联邦学习实现方法，其特征在于，包括：服务端在一个新的通信轮次开始时，为每个客户端发送全局模型；其中，所述的全局模型是根据之前选择的客户端子集中所有客户端在上一个通信轮次提交给服务端的模型参数加权平均而成，权重是根据每个客户端的拥有的数据集大小占整个数据集大小的比重而定； 当每一个客户端接收到服务端发送的全局模型参数集合后，通过本地聚合模块提取全局模型中对于当前客户端所需要的信息来初始化本地模型，所述的本地聚合模块是一个用于提取深度神经网络中的低层通用信息的权重矩阵，本地模型是保存在客户端本地的模型； 当客户端初始化本地模型之后，开始当前通信轮次的本地模型参数训练；进行本地模型参数训练时，使用知识蒸馏技术将上一个通信轮次的历史个性化本地模型的知识迁移到当前通信轮次的本地模型中；同时根据通信轮次的增加，动态地调整蒸馏损失的比重；具体步骤如下： 客户端执行图像分类任务，客户端k的本地数据中存在着图像数据Xi以及对应的数据标签Yi，保存为Dk；当客户端进行训练时将按照顺序从Dk中读取数据——标签对{Xi,Yi}； S1：基于当前客户端k的数据集Dk得到数据——标签对Xi,Yi，其中i表示数据的索引 S2：当客户端初始化本地模型之后将计算两个损失函数；其步骤如下: A：基于Xi得到当前的客户端本地模型的预测标签输出fXi,Θk； B：基于Xi并利用公式得到模型输出与硬标签之间的交叉熵损失，其中Fk·表示客户端k的交叉熵损失； C：利用公式计算模型输出与历史个性化模型的蒸馏损失，其中表示历史个性化模型的输入结构和当前本地模型的输出结果之间的KL散度； D：定义总体的损失函数为： L＝ρLhard+1-ρLsoft，其中r和R分别代表当前模型训练轮数和总通信轮次数量，表示固定两个损失函数比例的阈值； E：使用随机梯度下降来更新本地模型Θk； S3：循环运行步骤A到E，直到i＝|Dk|； 当客户端完成当前通信轮次的训练后，向服务器发送本地模型的参数集合； 在等待选择的客户端子集中所有客户端发送回新的模型参数集合之后，服务端根据所述的新的模型参数集合加权平均后生成新的集合，用于下一个通信轮次的训练，直到达到通信轮次上限。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人重庆邮电大学，其通讯地址为：400065 重庆市南岸区崇文路2号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。