上海交通大学高晋凌获国家专利权
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
龙图腾网获悉上海交通大学申请的专利一种基于剪枝影响率的大模型分层剪枝方法和应用获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119849577B 。
龙图腾网通过国家知识产权局官网在2025-10-03发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411923244.7，技术领域涉及：G06N3/082；该发明授权一种基于剪枝影响率的大模型分层剪枝方法和应用是由高晋凌;叶南阳设计研发完成，并于2024-12-25向国家知识产权局提交的专利申请。
本一种基于剪枝影响率的大模型分层剪枝方法和应用在说明书摘要公布了：本发明涉及一种基于剪枝影响率的大模型分层剪枝方法和应用，本方法通过计算不同剪枝率剪枝得到的层输出的相似性衡量剪枝对于模型中层的影响，根据大模型中不同层所受到的剪枝的影响不同，为不同层安排不同的剪枝率，有效提高了剪枝模型的准确率。另外，本发明考虑剪枝对于模型中层的影响，利用剪枝影响率，为模型的不同层分配不同稀疏率，能够与非结构化剪枝方法进行结合，减少剪枝给模型带来的性能损失。
本发明授权一种基于剪枝影响率的大模型分层剪枝方法和应用在权利要求书中公布了：1.一种基于剪枝影响率的大模型分层剪枝方法，其特征在于，包括如下步骤： 获取分批次的校准数据并输入包括多个层的目标大模型中，在前i‑1个层被配置为第一参考稀疏率α的情况下，得到第t个批次的校准数据Xt在经过前i‑1个层之后的输出数据Xt,i‑1； 基于输出数据Xt,i‑1，计算第i层在被配置为第二参考稀疏率β时的输出Xt,i,β； 基于输出数据Xt,i‑1，计算第i层被配置为第三参考稀疏率γ时的输出Xt,i,γ，其中β≠γ； 基于所有批次的校准数据下第二参考稀疏率β和测试第三参考稀疏率γ下的输出∑tXt,i,β和∑tXt,i,γ，计算第i层的剪枝影响率； 基于所述剪枝影响率，对各层的实际稀疏率进行分层调节，实现分层剪枝。
如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海交通大学，其通讯地址为：200240 上海市闵行区东川路800号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号
请提出您的宝贵建议，有机会获取IP积分或其他奖励