Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 之江实验室李晓晨获国家专利权

之江实验室李晓晨获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉之江实验室申请的专利一种模型的剪枝方法、装置及介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120181171B

龙图腾网通过国家知识产权局官网在2025-08-12发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510671470.9,技术领域涉及:G06N3/082;该发明授权一种模型的剪枝方法、装置及介质是由李晓晨;刘扶芮;高翔设计研发完成,并于2025-05-23向国家知识产权局提交的专利申请。

一种模型的剪枝方法、装置及介质在说明书摘要公布了:本申请公开了一种模型的剪枝方法、装置及介质,该方法包括:获取包括多个不同任务的数据的文本数据,并通过文本数据,对预先构建好的目标大模型进行迭代训练,得到训练结果。根据训练结果,确定目标大模型中各模块在多个不同任务中的重要性得分;根据重要性得分,确定各模块的剪枝比例;并基于剪枝比例,对各模块进行迭代剪枝,直至达到预设迭代条件为止;当重要性得分越小时,剪枝比例越大,表征对应的模块在多个不同任务中的重要性越低。由此,根据模型中各模块在不同任务下的重要性得分,动态分配各模块的剪枝比例,保证重要性得分小,重要性低的模块分配较大剪枝比例进行剪枝。保证模型计算精度的同时,降低模型计算和存储资源。

本发明授权一种模型的剪枝方法、装置及介质在权利要求书中公布了:1.一种模型的剪枝方法,其特征在于,所述方法包括: 获取文本数据;其中,所述文本数据包括多个不同任务的数据; 通过所述文本数据,对预先构建好的目标大模型进行迭代训练,得到训练结果;所述文本数据包括自监督学习任务的第一文本数据和多个下游任务的第二文本数据;所述训练结果包括所述第一文本数据对应的自监督训练结果,以及所述第二文本数据对应的下游任务训练结果; 根据所述训练结果,确定所述目标大模型中各模块在所述多个不同任务中的重要性得分; 根据所述重要性得分,确定所述各模块的剪枝比例;并基于所述剪枝比例,对所述各模块进行迭代剪枝,直至达到预设迭代条件为止;当所述重要性得分越小时,所述剪枝比例越大,表征对应的模块在所述多个不同任务中的重要性越低; 所述根据所述训练结果,确定所述目标大模型中各模块在所述多个不同任务中的重要性得分,包括: 根据所述自监督训练结果,分别确定所述各模块在所述自监督学习任务中的自学习任务得分; 根据所述下游任务训练结果,分别确定所述各模块在所述多个下游任务中的多任务综合得分; 根据所述自学习任务得分和所述多任务综合得分,确定所述重要性得分;当所述自学习任务得分越大时,所述重要性得分越大;当所述多任务综合得分越大时,所述重要性得分越大。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人之江实验室,其通讯地址为:311121 浙江省杭州市余杭区中泰街道科创大道之江实验室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。