买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉河北工业大学;之江实验室;电子科技大学(深圳)高等研究院;大连理工大学申请的专利联邦大模型自适应学习系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN117273168B 。

龙图腾网通过国家知识产权局官网在2026-02-17发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202311238148.4，技术领域涉及：G06N20/00；该发明授权联邦大模型自适应学习系统是由曹斌;姜泽宇;程稳;何华;李耘;申人升;常玉春设计研发完成，并于2023-09-25向国家知识产权局提交的专利申请。

本联邦大模型自适应学习系统在说明书摘要公布了：本发明提供了一种联邦大模型自适应学习系统。在多目标优化与增量学习结合的基础上，构建多个优化指标，设计自适应的小模型增量学习；针对联邦学习下的数据隐私保护，提出小模型梯度放缩方法，使梯度信息得到充分利用；通过揭示模型泛化能力与采样数据的关联性，提出泛化能力评估函数；针对工业设备运行时面对的性能退化、故障等真实问题，结合泛化能力评估函数，设计多个优化目标，通过多目标演化学习自适应地更新与修复模型，提高大模型在真实工业场景下的可用性。最终实现大、小模型的自适应精准更新，提升模型泛化能力。

本发明授权联邦大模型自适应学习系统在权利要求书中公布了：1.一种联邦大模型自适应学习系统，该系统主要由小模型自适应更新模块、BERT大模型与小模型归一化模块、BERT大模型自适应更新模块、系统隐私保护模块组成；其特征在于，1小模型自适应更新模块； 2BERT大模型与小模型归一化模块： 梯度信息同时具备大小与方向两个属性，联邦学习的隐私保护原则允许小模型向BERT大模型传递梯度信息，利用小模型产生的梯度信息反哺BERT大模型学习；提出一种基于梯度放缩的方法，评估小模型和BERT大模型参数量的差异以及先验知识，以建立小模型梯度值与BERT大模型梯度值的对应关系，梯度放缩方法表示如下： ； 其中，表示小模型在大模型上对应的梯度值，表示小模型的梯度值，为大模型先验梯度值，为小模型先验梯度值，为大模型参数量，为小模型参数量； 3BERT大模型自适应更新模块； 4系统隐私保护模块： 在小模型自适应更新模块、BERT大模型与小模型归一化模块、BERT大模型自适应更新模块中，实现了联邦自适应学习系统作用于BERT大模型；系统隐私保护模块结合于联邦自适应学习系统中，将联邦自适应学习系统置于隐私保护机制中；系统隐私保护模块实现了联邦自适应学习系统的隐私保护，包括噪声添加机制和使近似权重矩阵平均值机制； 1噪声添加机制： 提出噪声添加机制通过在子抽样过后添加的方法，将单个客户端的贡献隐藏在聚合中，从而隐藏在整个分散学习的过程中，其具体实现如下： 在随机子抽样中，记客户端的总数为K；在每一轮通信中，抽取一个大小为的随机子集，下标表示当前轮数；然后管理员将当前轮的中心模型分发给各客户端，当前轮的中心模型记作；中心模型由客户对其数据进行优化，中的每一个独立的客户端，都各自拥有不同的客户端模型，对每个客户端添加高斯噪声操作： ； 其中，为添加高斯噪声后的客户端模型，噪声服从分布，标准差决定了噪声尺度；优化后的客户端模型与中心模型之间的差值称为客户端模型的更新，记作； 在每一轮通信t结束时，客户端的更新被发送回中心模型的管理员； 2近似权重矩阵平均值机制： 提出使用高斯机制扭曲所有更新的总和来近似权重矩阵的平均值的方法；该方法使用高斯机制来扭曲所有更新的总和，通过使用缩放版本而不是真正的更新来加强一定的操作灵敏度，其具体实现如下： ； 其中，为缩放后的客户端模型，代表缩放灵敏度；将添加到所有缩放更新的和中，随后将混合噪声机制的输出除以，得到所有客户端更新的真实平均值，同时防止泄露个人的关键信息，将这个近似值再次加入拉普拉斯噪声，加到当前的中心模型上分配一个新的中心模型： ； 其中，代表拉普拉斯噪声计算，表示隐私预算。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人河北工业大学;之江实验室;电子科技大学(深圳)高等研究院;大连理工大学，其通讯地址为：300401 天津市北辰区西平道5340号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。