安徽科讯金服科技有限公司丁阳光获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉安徽科讯金服科技有限公司申请的专利半监督非独立同分布的联邦学习蒸馏方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116306905B 。
龙图腾网通过国家知识产权局官网在2025-08-08发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310142023.5,技术领域涉及:G06N3/096;该发明授权半监督非独立同分布的联邦学习蒸馏方法及装置是由丁阳光;沈超锋;吴贻军;梁前能;熊永星;解光林设计研发完成,并于2023-02-13向国家知识产权局提交的专利申请。
本半监督非独立同分布的联邦学习蒸馏方法及装置在说明书摘要公布了:本发明涉及人工智能技术领域,提供一种半监督非独立同分布的联邦学习蒸馏方法及装置,该方法借助于其他终端的偏科教师模型对目标终端的非标签数据的预测结果,可以使非标签数据的软标签以及硬标签更加准确可靠,不仅可以大大提高基础模型的训练效率,还可以使得到的学生模型的泛化能力更强,进而可以提升联邦学习得到的聚合模型的准确性。此外,该方法结合知识蒸馏以及联邦学习,可以使学生模型学习到自身完全不存在的其他终端的知识,即自身数据没有相关标签,但是能通过联邦学习学到相关知识,这是一种极端的对于数据标签的非独立同分布场景。同时,该方法能够通过联邦学习使学生模型已经拥有的拟合能力更佳。
本发明授权半监督非独立同分布的联邦学习蒸馏方法及装置在权利要求书中公布了:1.一种半监督非独立同分布的联邦学习蒸馏方法,其特征在于,应用于目标终端,所述目标终端归属的目标服务端下各终端的数据和或标签满足非独立同分布;所述方法包括: 确定所述目标终端的标签数据以及非标签数据,并将所述目标终端与所述目标服务端下其他终端进行标签对齐,基于所述标签数据以及标签对齐结果,对初始教师模型进行训练,得到第一偏科教师模型;所述标签数据以及所述非标签数据由所述目标终端对本地数据进行聚类得到,所述本地数据包括图片或隐私数据,所述标签数据携带的标签包括所述图片中的对象类别或隐私数据类别; 基于所述第一偏科教师模型,分别对所述标签数据以及所述非标签数据进行标签预测,得到所述标签数据的软标签以及所述非标签数据的第一预测结果; 接收所述其他终端的第二偏科教师模型,基于所述第二偏科教师模型,对所述非标签数据进行标签预测,得到所述非标签数据的第二预测结果,并基于所述第一预测结果与所述第二预测结果,生成所述非标签数据的软标签和硬标签; 基于所述标签数据及其软标签、所述非标签数据的软标签和硬标签,对基础模型进行本地蒸馏,得到学生模型,并基于所述学生模型进行联邦学习。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人安徽科讯金服科技有限公司,其通讯地址为:230000 安徽省合肥市高新区习友路与石莲南路交口中国智能语音产业区A2栋5层;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。