Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
专利交易 积分商城 国际服务 IP管家助手 科技果 科技人才 商标交易 会员权益 需求市场 关于龙图腾 更多
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 飞诺门阵(北京)科技有限公司沈寓实获国家专利权

飞诺门阵(北京)科技有限公司沈寓实获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉飞诺门阵(北京)科技有限公司申请的专利基于稀疏化剪枝的大模型动态压缩优化方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121119020B

龙图腾网通过国家知识产权局官网在2026-03-06发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511666527.2,技术领域涉及:G06N3/082;该发明授权基于稀疏化剪枝的大模型动态压缩优化方法及系统是由沈寓实;郭哲滔;兰健;刘星妍设计研发完成,并于2025-11-14向国家知识产权局提交的专利申请。

基于稀疏化剪枝的大模型动态压缩优化方法及系统在说明书摘要公布了:本发明涉及大模型算法技术领域,尤其涉及一种基于稀疏化剪枝的大模型动态压缩优化方法及系统,该方法捕获推理中因资源波动产生的原始权重波动数据,经稀疏化处理得到稀疏权重基准数据;通过模型推理延迟数据解析计算复杂度,分离出模型规模导致的推理延迟量;基于延迟量与稀疏基准数据,将模型压缩率动态控制在预设性能范围,采集不同压缩参数下的推理精度分布数据;借助神经网络模拟方法评估各参数下模型性能状态,生成性能状态模拟结果;结合压缩过程中实时获取的资源波动数据,基于模拟结果确定模型质量优化补偿参数;最终通过补偿参数对压缩策略进行自适应调控,实现硬件资源动态变化时模型计算复杂度、推理精度与延迟的协同优化。

本发明授权基于稀疏化剪枝的大模型动态压缩优化方法及系统在权利要求书中公布了:1.一种基于稀疏化剪枝的大模型动态压缩优化方法,其特征在于,所述方法包括: 捕获大模型在推理过程中因硬件资源波动导致的原始权重波动数据,并对所述原始权重波动数据进行稀疏化处理,得到稀疏权重基准数据; 根据采集到的模型推理延迟数据对模型计算复杂度进行分析,得到因模型规模引起的推理延迟量; 根据所述推理延迟量和所述稀疏权重基准数据,通过自适应优化算法控制模型压缩率至预设性能范围内,并在压缩控制完成后,采集大模型在不同压缩参数下的推理精度分布数据; 根据所述推理精度分布数据,利用神经网络模拟方法评估模型在不同压缩参数下的性能状态,得到性能状态模拟结果; 获取压缩作业过程中的资源波动数据,并基于所述性能状态模拟结果和所述资源波动数据,确定模型质量优化补偿参数; 基于模型质量优化补偿参数对大模型的压缩策略进行自适应调控; 其中,所述根据所述推理精度分布数据,利用神经网络模拟方法评估模型在不同压缩参数下的性能状态,得到性能状态模拟结果,包括: 采集大模型在不同压缩参数下的推理精度三维坐标数据,并根据各精度坐标数据,构建高斯过程网格; 根据所述高斯过程网格,利用蒙特卡洛方法模拟得到模型在精度边界处的梯度变化应力; 根据模型在精度边界处的梯度变化应力,利用卷积神经网络得到不同压缩工况下精度的衰减趋势; 根据所述衰减趋势计算模型在精度边界处的敏感度,根据模型在精度边界处的敏感度,采用泰勒展开识别精度敏感区域; 采集压缩作业过程中模型的资源波动信号,并通过小波包变换从所述资源波动信号中提取出波动主频,将所述波动主频作为动态边界条件; 根据所述动态边界条件、所述推理精度分布数据和所述精度敏感区域,利用神经网络模拟方法评估模型在不同压缩参数下的性能状态,得到性能状态模拟结果。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人飞诺门阵(北京)科技有限公司,其通讯地址为:100000 北京市海淀区中关村南大街乙12号天作国际中⼼A座29层;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。