买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉大连理工大学申请的专利基于聚类和知识蒸馏的可信个性化联邦学习方法和装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116862024B 。

龙图腾网通过国家知识产权局官网在2026-01-30发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202310899550.0，技术领域涉及：G06N20/20；该发明授权基于聚类和知识蒸馏的可信个性化联邦学习方法和装置是由覃振权;刘瑞欣;卢炳先;王雷;朱明设计研发完成，并于2023-07-21向国家知识产权局提交的专利申请。

本基于聚类和知识蒸馏的可信个性化联邦学习方法和装置在说明书摘要公布了：本发明属于联邦学习技术领域，公开一种基于聚类和知识蒸馏的可信个性化联邦学习方法和装置。首先，在云端协同下聚类将用户终端划分为多个聚簇，然后将各个聚簇进行局部聚合得到局部模型。其次，设计基于循环知识蒸馏的方法，以循环的方式对局部模型进行顺序训练，通过知识蒸馏提取公共知识。然后在用户终端对全局模型执行重学习的操作，有效恢复本地知识。进一步地，对于参数上传过程中可能存在的隐私泄露问题，发明设计一个基于洗牌算法的分布式差分隐私机制，通过在客户端与服务器端额外增加一次混合编码的步骤，允许用户只添加少量噪声就实现较高级别的隐私保护。本发明引入知识蒸馏和洗牌算法，在实现个性化训练的同时也提高了框架的安全性。

本发明授权基于聚类和知识蒸馏的可信个性化联邦学习方法和装置在权利要求书中公布了：1.一种基于聚类和知识蒸馏的可信个性化联邦学习方法，其特征在于，建立一种基于聚类和知识蒸馏的可信个性化联邦学习场景模型，所述联邦学习场景模型包括云层和用户层；云层为1个云服务器，用户层主要由个用户终端组成；每个用户终端存有私有本地数据，所有的用户终端通过联邦学习算法联合训练个性化模型； 训练过程以时隙方式运行；训练过程所用时间为，被分割成个持续时间相同的连续时隙；每个时隙中迭代一次联邦学习算法，每轮迭代中，用户终端从云服务器下载初始模型进行本地训练，将用户终端间的相似度上传到云服务器后，云服务器对用户终端训练得到的本地模型进行聚类划分，得到个聚簇；每个聚簇中的本地模型在云层聚合，得到个局部模型；云服务器对局部模型进行知识蒸馏后得到全局模型，各用户终端下载全局模型至本地进行重学习，训练更新得到个性化模型；所述本地模型进行聚类划分，得到个聚簇，基于Canopy的均值聚类算法对本地模型进行聚类划分，步骤如下： 2.1Canopy聚类算法进行“粗聚类”； 定义本地模型集合为，给定两个先验值和，且；从集合中获取一个节点，计算该节点到所有当前聚簇中心的距离，为当前聚类中心，当不存在聚簇中心，以为中心点形成一个新的聚簇，并选择出最小距离；所述距离的计算采用欧氏距离： ； 当距离小于，表示该节点属于该聚簇，添加到该聚簇中；当距离小于，将该节点添加到该聚簇中，并将其从集合中删除；当距离大于，以该节点形成一个新的聚簇；直到集合不再有变化或者元素数量为0的时候，结束循环操作； 2.2通过均值聚类算法进行“细聚类”； 将步骤2.1得到的K个聚簇中心点作为初始中心点进行“细聚类”； 针对步骤2.1得到的聚簇中心，计算所有节点到每个聚簇中心的距离，将每个节点聚集到与其最近的聚簇中心的簇中，得到聚簇；计算每个聚簇中所有节点的坐标均值，作为新的聚簇中心点；重复执行上述过程，直到聚类结果不再发生改变；个本地模型划分为个聚簇；所述云服务器对局部模型进行知识蒸馏采用循环知识蒸馏方式； 聚簇中的本地模型上传至云层，云服务器对每个聚簇中本地模型进行聚合得到个局部模型，表示为； 局部模型的数据集表示为，每个数据集包括训练集、预测集和测试集，其中，；整个知识蒸馏的过程定义为解决损失函数最小化的问题： ； 其中，为训练得到的具有公共知识的局部模型，作为全局模型，是损失函数； 以循环的方式对局部模型进行顺序训练，由前一个局部模型指导下一个局部模型，在没有数据交换的情况下，将所有局部模型的信息组合在一起，直到收敛；所述收敛定义为所有的公共知识都被提取出来： ； 其中，是前一个局部模型的特征提取器，是当前局部模型的特征提取器，是来自当前局部模型的数据样本； 通过知识蒸馏，保留与当前局部模型相关的知识，丢弃无关的知识，经过多轮循环训练，保留获得对所有局部模型均相关的知识，得到全局模型；训练局部模型的总损失为： ； 其中，是知识转移和聚焦当前数据的权重，是交叉熵损失，；其中为局部模型中的全连接层，为特征提取器。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人大连理工大学，其通讯地址为：116024 辽宁省大连市甘井子区凌工路2号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。