买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉鹏城实验室申请的专利一种跨域数据异构的大模型在线剪枝方法及相关设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN115423088B 。

龙图腾网通过国家知识产权局官网在2025-08-12发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210986537.4，技术领域涉及：G06N3/082；该发明授权一种跨域数据异构的大模型在线剪枝方法及相关设备是由易泽轩;张叶红;张艳;王进;颜达森;陶恒韬;王晖;曾炜;余跃设计研发完成，并于2022-08-17向国家知识产权局提交的专利申请。

本一种跨域数据异构的大模型在线剪枝方法及相关设备在说明书摘要公布了：本发明公开了一种跨域数据异构的大模型在线剪枝方法及相关设备，方法包括：获取目标预训练模型和目标数据集；根据目标数据集对目标预训练模型进行预剪枝，得到预剪枝模型；将预剪枝模型的参数发送至云服务器进行处理，得到目标融合参数，将目标融合参数加载至预剪枝模型，得到目标融合模型，将目标预训练模型更新为目标融合模型；重新执行根据目标数据集对目标预训练模型进行预剪枝的步骤，直至完成预设数量的轮数后，将目标融合模型作为目标预剪枝模型；对目标预剪枝模型进行结构剪枝处理，得到目标剪枝模型；根据目标剪枝模型得到目标发布模型。本发明能够在跨域网络环境下，对模型进行在线剪枝，减少模型参数，降低大模型部署对硬件的要求。

本发明授权一种跨域数据异构的大模型在线剪枝方法及相关设备在权利要求书中公布了：1.一种跨域数据异构的大模型在线剪枝方法，其特征在于，所述跨域数据异构的大模型在线剪枝方法包括： 获取目标预训练模型和目标数据集； 根据所述目标数据集对所述目标预训练模型进行预剪枝，得到预剪枝模型； 将所述预剪枝模型的参数发送至云服务器进行处理，得到目标融合参数，将所述目标融合参数加载至所述预剪枝模型，得到目标融合模型，将所述目标预训练模型更新为所述目标融合模型； 重新执行根据所述目标数据集对所述目标预训练模型进行预剪枝的步骤，直至完成预设数量的轮数后，将所述目标融合模型作为目标预剪枝模型； 对所述目标预剪枝模型进行结构剪枝处理，得到目标剪枝模型； 根据所述目标剪枝模型得到目标发布模型； 所述根据所述目标数据集对所述目标预训练模型进行预剪枝，包括： 获取所述目标预训练模型中的多头注意力模块； 根据所述多头注意力模块中的每一头设置对应的门控网络； 将所述目标数据集中各个训练数据对应的所述多头注意力模块的输出结果与所述门控网络进行点积，得到目标注意力输出； 根据门控稀疏化函数和所述目标注意力输出获取预剪枝训练损失，并根据优化目标更新所述目标预训练模型； 所述门控稀疏化函数为： ； 其中，所述目标预训练模型中的所述多头注意力模块的层数为l，为第i层多层注意力模块对应的门控网络，。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人鹏城实验室，其通讯地址为：518000 广东省深圳市南山区兴科一街2号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。