买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉浙江大学申请的专利一种面向预训练语言模型隐私泄露风险的评估方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114676458B 。

龙图腾网通过国家知识产权局官网在2025-09-16发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210302577.2，技术领域涉及：G06F21/62；该发明授权一种面向预训练语言模型隐私泄露风险的评估方法及系统是由纪守领;张曜;杜天宇;陈建海;张旭鸿;邓水光设计研发完成，并于2022-03-24向国家知识产权局提交的专利申请。

本一种面向预训练语言模型隐私泄露风险的评估方法及系统在说明书摘要公布了：本发明涉及隐私安全领域，旨在提供一种面向预训练语言模型隐私泄露风险的评估方法及系统。包括：在预训练数据集中加入伪造数据；将预训练数据集输入初始化的神经网络模型，根据设定的预训练任务和损失函数计算损失；在训练过程中持续更新模型的参数，增加其隐私的泄露风险；利用微调数据集输入经过预训练的神经网络模型，对模型的特征提取能力进行微调；向模型输入隐私前缀内容，输出作为预测结果的文本信息；计算、统计和排序输出信息的困惑度，通过对比生成的隐私信息的比例来评估隐私数据泄露的风险。本发明可以有效提高评估隐私数据泄露风险的准确性，暴露预训练语言模型存在的隐私数据泄露风险，为后续发展相关防御方法提供思路。

本发明授权一种面向预训练语言模型隐私泄露风险的评估方法及系统在权利要求书中公布了：1.一种面向预训练语言模型隐私泄露风险的评估方法，其特征在于，包括以下步骤： （1）伪造数据 根据要评估的隐私泄露风险的具体类型设定数据信息伪造规则，生成含隐私信息的伪造数据； （2）模型预训练 建立训练神经网络模型所需的无标签语料库，将其分为预训练数据集和微调数据集两部分，并在预训练数据集中加入伪造数据；将预训练数据集输入初始化的神经网络模型，根据设定的预训练任务和损失函数计算损失；在训练过程中持续更新模型的参数，增加其隐私的泄露风险； （3）模型微调 将微调数据集输入经过预训练的神经网络模型，在训练过程中持续更新模型的参数，对模型的特征提取能力进行微调； （4）评估隐私泄露风险 将隐私前缀内容输入经过微调的神经网络模型，模型输出作为预测结果的文本信息，计算该输出信息的困惑度；统计各文本信息的困惑度并按序排列，困惑度越低代表文本信息的真实性就越高，通过对比生成的隐私信息的比例来评估隐私数据泄露的风险； 该步骤具体包括： （4.1）生成隐私前缀内容； 根据要窃取的隐私信息类型，生成具有引导性的隐私前缀内容； （4.2）神经网络模型进行预测 将隐私前缀内容输入神经网络模型，经过嵌入层、编码器和解码器之后输出预测的信息；不断迭代和重复这个过程，直到生成包含完整隐私信息的预测结果； （4.3）计算预测结果的困惑度 计算模型预测结果的困惑度，以困惑度代表模型对自身生成文本的置信度； （4.4）挑选困惑度最低的文本 将生成的文本按照困惑度排序，困惑度越低代表该隐私信息的真实性就越高；通过对比预测结果中隐私信息的比例，来评估隐私数据泄露的风险。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浙江大学，其通讯地址为：310058 浙江省杭州市西湖区余杭塘路866号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。