买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉精为技术(天津)有限公司申请的专利基于联邦大模型的反转知识蒸馏方法和系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119129708B 。

龙图腾网通过国家知识产权局官网在2025-08-15发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411589176.5，技术领域涉及：G06N3/098；该发明授权基于联邦大模型的反转知识蒸馏方法和系统是由冯为嘉;田怡;王晨阳;张偌嘉;左心宇;朱逸宸设计研发完成，并于2024-11-08向国家知识产权局提交的专利申请。

本基于联邦大模型的反转知识蒸馏方法和系统在说明书摘要公布了：本发明提供了一种基于联邦大模型的反转知识蒸馏方法和系统，涉及联邦学习领域，包括：客户端使用私有数据集对小参数模型的权重参数进行更新，得到客户端模型；使用公共数据集输出客户端模型软逻辑并发送至服务器；服务器的大参数模型使用公共数据集输出服务器模型软逻辑；根据服务器模型软逻辑与多个客户端模型软逻辑间的相关性以及每个客户端模型对公共数据集的准确率来计算每一个客户端的权重；根据客户端权重与客户端模型软逻辑计算加权客户软逻辑；使用服务器模型软逻辑与加权客户软逻辑进行知识蒸馏。本发明使用多个小参数模型对单个大参数模型进行知识蒸馏，为服务器内大参数模型的更新与迭代提供了一种全新的方法。

本发明授权基于联邦大模型的反转知识蒸馏方法和系统在权利要求书中公布了：1.一种基于联邦大模型的反转知识蒸馏方法，其特征在于，包括： 服务器向客户本地的客户端下发小参数模型，以便所述客户端使用私有数据集对所述小参数模型的权重参数进行更新，得到客户端模型； 所述客户端模型使用公共图像数据集输出客户端模型软逻辑，并将所述客户端模型软逻辑发送至所述服务器； 所述服务器的大参数模型使用所述公共图像数据集输出服务器模型软逻辑； 根据所述服务器模型软逻辑与多个客户端模型软逻辑间的相关性以及每个客户端模型对公共图像数据集的准确率来计算每一个客户端的权重； 根据多个客户端权重与客户端模型软逻辑计算加权客户软逻辑； 使用所述服务器模型软逻辑与所述加权客户软逻辑进行知识蒸馏，以对服务器大参数模型的权重参数进行更新； 所述知识蒸馏具体包括： 计算所述服务器模型软逻辑与所述加权客户软逻辑间的蒸馏损失； 所述蒸馏损失与服务器模型的任务损失进行加权求和，得到服务器模型总损失； 根据所述服务器模型总损失对服务器模型进行反向传播，从而依照客户端模型更新的方式来对服务器模型进行更新。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人精为技术(天津)有限公司，其通讯地址为：300000 天津市南开区科研西路天津科技广场4号楼0627(天开园)；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。