南京邮电大学罗京获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉南京邮电大学申请的专利一种大模型的隐私保护微调与安全性测试方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121279398B 。
龙图腾网通过国家知识产权局官网在2026-03-06发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511825131.8,技术领域涉及:G06N3/098;该发明授权一种大模型的隐私保护微调与安全性测试方法是由罗京;周浩;戴华;黄皓;倪宇博;蔡思齐;杨庚设计研发完成,并于2025-12-05向国家知识产权局提交的专利申请。
本一种大模型的隐私保护微调与安全性测试方法在说明书摘要公布了:本发明公开了一种大模型的隐私保护微调与安全性测试方法,属于人工智能技术领域,包括:步骤一:数据提供方协同边缘协调器基于边‑端联邦预训练生成特征提取边缘辅助模型和基于多重空间数据特征匹配蒸馏隐私数据;步骤二:数据提供方生成带有不可见后门的蒸馏数据;步骤三:任务发起方微调云端目标大模型并进行安全性测试,本发明旨在保护数据提供方私有数据隐私、缩减微调数据规模和实现大模型微调过程的安全性测试。
本发明授权一种大模型的隐私保护微调与安全性测试方法在权利要求书中公布了:1.一种大模型的隐私保护微调与安全性测试方法,其特征在于,包含以下步骤: 步骤一:数据提供方协同边缘协调器基于边-端联邦预训练生成特征提取边缘辅助模型和基于多重空间数据特征匹配蒸馏隐私数据; 步骤二:数据提供方生成带有不可见后门的蒸馏数据; 步骤三:任务发起方微调云端目标大模型并进行安全性测试; 所述步骤一包括以下步骤: 1a边缘协调器ES根据数据提供方DP的数据量集合|D|={|D1|,|D2|,...|Dn|}, 通过深度选择函数Φ确定初始边缘辅助模型Fw0网络深度L; 1b边缘协调器ES依据目标大模型的任务需求进一步调整初始边缘辅助模型Fw0,然后分发初始边缘辅助模型Fw0给n个数据提供方DP,第i个数据提供方DPi基于本地数据yi独立训练模型权重,并仅上传优化后的权重wi;边缘协调器ES聚合n个数据提供方DP的权重W={w1,w2,…,wn},得到新的边缘辅助模型并下发;经过多轮交互迭代,得到能够提取更多分布特征的最终边缘辅助模型Fw; 1c数据提供方DP对本地数据yi拼接和增强后生成初始蒸馏数据xi,并通过基于最终边缘辅助模型Fw的边缘蒸馏器C不断优化初始蒸馏数据xi,使其在多重空间逐步逼近原始数据特征分布,得到最终蒸馏数据Xi,并上传至边缘协调器汇总; 所述步骤二包括以下步骤: 2a模拟恶意数据提供方利用对抗生成网络GD和本地干净数据yt,训练得到多个候选不可见扰动后门生成器G*={G*1,G*2,...G*k};候选不可见扰动后门生成器向本地蒸馏数据中注入不可见扰动作为后门; 2b模拟恶意数据提供方DPt利用后门生成选择器V,选出最佳后门生成器Gs*用于后门植入,生成带有不可见后门的蒸馏数据,将其上传到边缘协调器ES; 所述步骤三包括以下步骤: 3a任务发起方CS加载预训练云端目标大模型M,并采用参数微调方法,在保持原始权重矩阵W0不变的情况下,仅更新新增的低秩矩阵A和B;训练数据来源于边缘协调器汇聚的蒸馏数据,包括干净数据和模拟污染数据; 3b任务发起方完成微调后,分别在干净测试集和污染测试集上进行评估,得到测试结果,根据测试结果进行安全性分析。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人南京邮电大学,其通讯地址为:210023 江苏省南京市栖霞区文苑路9号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励