清华大学;北京三快在线科技有限公司任炬获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉清华大学;北京三快在线科技有限公司申请的专利终端推荐模型的联邦训练方法、装置和存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN117150122B 。
龙图腾网通过国家知识产权局官网在2026-03-24发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202311021672.6,技术领域涉及:G06F16/9535;该发明授权终端推荐模型的联邦训练方法、装置和存储介质是由任炬;夏腾溪;张尧学;饶玮;祖琴;王文杰;陈帅设计研发完成,并于2023-08-15向国家知识产权局提交的专利申请。
本终端推荐模型的联邦训练方法、装置和存储介质在说明书摘要公布了:本公开提供的终端推荐模型的联邦训练方法,包括:在云端构建教师模型和学生模型,利用云端的历史数据集对教师、学生模型进行预训练,并将学生模型发送至各终端;各终端分别利用本地数据集对学生模型进行首轮联邦训练,得到本地学生模型;云端对本地学生模型的参数进行聚合,得到全局模型;在云端利用教师模型和历史数据集对全局模型的参数通过自监督知识蒸馏的方式进行参数增强,利用增强后的全局模型的参数对各终端的本地学生模型的参数进行更新;不断重复上述本地训练及云端的参数聚合和参数增强步骤,直至训练轮次达到上限。本公开能在保护隐私的同时提供泛化能力更强的轻量化推荐模型,减少了联邦推荐中因数据稀疏带来准确率较低的问题。
本发明授权终端推荐模型的联邦训练方法、装置和存储介质在权利要求书中公布了:1.一种终端推荐模型的联邦训练方法,其特征在于,包括: 步骤S1、在云端构建教师模型和学生模型,利用云端的历史数据集对所述教师模型和所述学生模型进行预训练,并将预训练得到的学生模型发送至参与联邦训练的多个终端; 步骤S2、各终端分别利用本地数据集对预训练完毕的学生模型进行首轮联邦训练,得到首轮本地学生模型; 步骤S3、各终端将当前轮本地学生模型的参数发送至云端,云端对所有当前轮本地学生模型的参数进行聚合,得到当前轮全局模型及其参数; 步骤S4、在云端利用教师模型和历史数据集对当前轮全局模型的参数通过自监督知识蒸馏的方式进行参数增强,得到增强后的当前轮全局模型的参数,将增强后的当前轮全局模型的参数发送至各终端,以对各终端的本地学生模型的参数进行更新; 步骤S5、令训练轮次加1,各终端利用各自的本地数据集对当前轮本地学生模型进行联邦训练,返回步骤S3,直至训练轮次达到迭代轮次数上限; 所述当前轮全局模型的参数按照以下公式计算得到: 其中,表示当前轮参与联邦训练的终端的个数,表示由终端所拥有的本地推荐数据构成的本地数据集,表示终端利用本地数据集训练得到的当前轮本地学生模型的参数,表示云端经过参数聚合后得到的当前轮全局模型的参数,表示联邦训练的当前轮次。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人清华大学;北京三快在线科技有限公司,其通讯地址为:100084 北京市海淀区清华园1号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励