买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉西安星讯智能通信科技有限公司申请的专利面向复杂场景的AI大模型轻量化部署方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120930709B 。

龙图腾网通过国家知识产权局官网在2025-12-23发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511454102.5，技术领域涉及：G06N3/082；该发明授权面向复杂场景的AI大模型轻量化部署方法是由冯兴龙;卢宇森;祖瑾伟;付朋伟;冯朝阳;张亚飞;王静;李渊;陈苏平;赵会霞设计研发完成，并于2025-10-13向国家知识产权局提交的专利申请。

本面向复杂场景的AI大模型轻量化部署方法在说明书摘要公布了：本发明提供面向复杂场景的AI大模型轻量化部署方法，涉及边缘计算技术领域，所述方法包括：基于注意力头重要性评分对预训练Transformer网络执行结构化剪枝，根据输入张量熵值动态稀疏化前馈网络激活状态，采用动态混合精度量化，获得剪枝量化后的网络参数；将剪枝量化后的网络参数部署至边缘计算设备，通过异构计算调度器将特征提取算子分配至神经网络处理器，分类算子卸载至多核中央处理器；结合虚拟内存分页机制管理片上存储器，利用直接内存访问控制器实现零拷贝数据传输，输出推理结果张量。本发明实现大模型在资源受限边缘节点的高效和可靠运行。

本发明授权面向复杂场景的AI大模型轻量化部署方法在权利要求书中公布了：1.面向复杂场景的AI大模型轻量化部署方法，其特征在于，所述方法包括： 步骤1，基于注意力头重要性评分对预训练Transformer网络执行结构化剪枝，根据输入张量熵值动态稀疏化前馈网络激活状态，采用动态混合精度量化，获得剪枝量化后的网络参数； 步骤2，将剪枝量化后的网络参数部署至边缘计算设备，通过异构计算调度器将特征提取算子分配至神经网络处理器，分类算子卸载至多核中央处理器；结合虚拟内存分页机制管理片上存储器，利用直接内存访问控制器实现零拷贝数据传输，输出推理结果张量； 步骤3，当检测到推理结果张量包含预设异常特征向量时，通过最小化边缘设备输出与教师模型输出概率分布的差异迁移知识，进行差分隐私梯度同步更新，得到更新后的网络参数； 步骤4，基于更新后的网络参数、实时计算负载矩阵、任务依赖数据及时延约束，将边缘节点算力、内存及网络输入输出资源映射为多维约束空间；递归构建多维树索引定位满足时延的分区，采用近似最近邻搜索匹配帕累托最终资源配比； 步骤5，基于最终资源配比，动态分配计算实例资源，维持端到端时延于服务等级协议阈值内。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人西安星讯智能通信科技有限公司，其通讯地址为：710000 陕西省西安市曲江新区雁南五路曲江环球中心1006室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。