Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 杭州高新区(滨江)区块链与数据安全研究院;浙江大学刘子涵获国家专利权

杭州高新区(滨江)区块链与数据安全研究院;浙江大学刘子涵获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉杭州高新区(滨江)区块链与数据安全研究院;浙江大学申请的专利基于拆分学习的私有化大模型微调训练方法和装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119598509B

龙图腾网通过国家知识产权局官网在2025-09-30发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411650255.2,技术领域涉及:G06F21/62;该发明授权基于拆分学习的私有化大模型微调训练方法和装置是由刘子涵;汪睿;伍赛;唐秀;杨智慧;袁巩生;姚畅设计研发完成,并于2024-11-19向国家知识产权局提交的专利申请。

基于拆分学习的私有化大模型微调训练方法和装置在说明书摘要公布了:本申请涉及一种基于拆分学习的私有化大模型微调训练方法和装置,其中,该方法包括:将预训练的大模型拆分成头部模型段、中间模型段以及尾部模型段;将原始数据拆分成隐私数据和非隐私数据;根据隐私数据和非隐私数据,协同训练客户端中的头部模型段和尾部模型段,及服务器中的第一中间模型段和第二中间模型段,得到目标大模型;其中,在协同训练过程中,同态加密客户端和服务器之间传输的与隐私数据相关的隐私中间激活量;目标大模型输出关于特定主题的文档答复。通过本申请,解决了相关技术中需要向服务器传输中间激活量,存在通过模型反演攻击推测或恢复原始数据的风险的问题;实现对隐私数据的保护,降低隐私数据泄露的风险。

本发明授权基于拆分学习的私有化大模型微调训练方法和装置在权利要求书中公布了:1.一种基于拆分学习的私有化大模型微调训练方法,其特征在于,包括: 将预训练的大模型拆分成头部模型段、中间模型段以及尾部模型段;将所述头部模型段和所述尾部模型段部署在客户端;将所述中间模型段部署在服务器;所述中间模型段包括第一中间模型段和第二中间模型段; 将原始数据拆分成隐私数据和非隐私数据;所述原始数据为文档数据; 根据所述隐私数据和所述非隐私数据,协同训练所述客户端中的头部模型段和尾部模型段,及所述服务器中的第一中间模型段和第二中间模型段,得到目标大模型,其包括:根据所述隐私数据和所述非隐私数据,协同训练所述客户端中的所述头部模型段和所述尾部模型段,并更新所述头部模型段和所述尾部模型段的模型参数;根据所述隐私数据和所述非隐私数据,协同训练所述服务器中的所述第一中间模型段和所述第二中间模型段,并更新所述第一中间模型段和所述第二中间模型段的模型参数;在满足收敛条件或达到训练轮数时,得到目标大模型; 其中,在协同训练过程中,同态加密所述客户端和所述服务器之间传输的与所述隐私数据相关的隐私中间激活量;所述第一中间模型段用于处理所述非隐私数据;所述第二中间模型段用于处理所述隐私数据;所述目标大模型输出关于特定主题的文档答复。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人杭州高新区(滨江)区块链与数据安全研究院;浙江大学,其通讯地址为:310051 浙江省杭州市滨江区物联网孵化器大楼2号楼A楼4-7层;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由AI智能生成
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。