数据空间研究院余海阳获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉数据空间研究院申请的专利基于因果介入的垂域大模型隐私知识解耦方法及终端获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121638393B 。
龙图腾网通过国家知识产权局官网在2026-04-14发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202610148536.0,技术领域涉及:G06N5/02;该发明授权基于因果介入的垂域大模型隐私知识解耦方法及终端是由余海阳;张佳佳;王晓伟;胡家武;潘李伟;魏凌波设计研发完成,并于2026-02-03向国家知识产权局提交的专利申请。
本基于因果介入的垂域大模型隐私知识解耦方法及终端在说明书摘要公布了:本发明涉及大语言模型和隐私保护技术领域,公开了基于因果介入的垂域大模型隐私知识解耦方法及终端。该方法构建隐私、反事实及保留数据集;通过激活值替换计算中介节点因果效应,结合反事实推理识别关键节点,构建图谱以确定核心因果传播链;利用领域知识本体图谱训练判别器,计算并校准词元实例化分数,将表征空间分解为正交的实例与概念子空间,确定参数的空间归属与因果权重;构建双约束优化目标,包括保留与遗忘损失,以及正则化约束,对位于实例子空间且属于传播链的参数进行更新。本发明能精准识别垂域大语言模型中隐私泄露的因果传播链并实现语义边界感知的选择性解耦,在彻底消除特定隐私数据的同时最大限度保留模型的领域专业能力。
本发明授权基于因果介入的垂域大模型隐私知识解耦方法及终端在权利要求书中公布了:1.基于因果介入的垂域大模型隐私知识解耦方法,其特征在于,应用于基于Transformer架构的大语言模型,将模型每层的每个注意力头定义为一个中介节点,所述方法包括: S1.获取待遗忘的隐私数据集,并针对隐私数据集中的样本构造对应的反事实数据集,同时构建包含领域通用知识的保留数据集;所述隐私数据集中的每个样本包括含隐私信息的输入序列和对应的目标输出,所述输入序列由词元组成; S2.对所述隐私数据集和所述反事实数据集分别进行前向传播,通过激活值替换的方式计算模型的每个中介节点对隐私输出的因果效应分数,并通过反事实推理验证识别出因果关键节点集合,进而构建因果依赖图谱以确定核心因果传播链; S3.构建领域知识本体图谱,并基于该图谱训练语义边界判别器,利用该判别器计算模型表征空间中每个词元的实例化程度分数,并结合本体图谱的先验概率对实例化程度分数进行校准; S4.基于校准后的实例化程度分数,将模型的表征空间分解为相互正交的实例子空间和概念子空间,计算模型参数矩阵对两个子空间的敏感度确定该参数矩阵的空间归属权重,并结合所述因果关键节点集合为每个参数矩阵赋予因果权重; S5.构建双约束优化目标函数,利用所述保留数据集构建保留损失以维持领域专业知识,利用所述隐私数据集构建遗忘损失以消除隐私记忆,结合所述归属权重和所述因果权重以调整用于计算正则化损失的权重函数,从而针对位于所述实例子空间且属于所述核心因果传播链的参数进行自适应强度的更新,得到完成遗忘的大语言模型,将其应用于垂直领域问答系统,具体步骤为:将问题文本输入给完成隐私遗忘的大语言模型,输出相应的回复文本。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人数据空间研究院,其通讯地址为:230000 安徽省合肥市高新区柏堰科技园创新大道288号工投高新智谷B区;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励