买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉苏州元脑智能科技有限公司申请的专利模型轻量化方法及电子设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121031795B 。

龙图腾网通过国家知识产权局官网在2026-03-06发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511546998.X，技术领域涉及：G06N5/04；该发明授权模型轻量化方法及电子设备是由韩星辰;王超;吴韶华设计研发完成，并于2025-10-28向国家知识产权局提交的专利申请。

本模型轻量化方法及电子设备在说明书摘要公布了：本申请公开了一种模型轻量化方法及电子设备，涉及人工智能技术领域，包括将输入序列划分为多个数据块；基于数据块与多个专家模块的匹配度，确定数据块的路由向量，进而确定每个设备待处理的目标数据块，提高了资源利用率；针对任一远程设备待处理的目标数据块，确定该目标数据块相对于共享基础参数的差异参数，以生成残差数据块，获得聚合请求包，该远程设备基于聚合请求包进行推理，在减少数据传输量的同时，确保推理精度；基于目标专家模块对数据块的推理结果，确定数据块的目标推理结果。解决了相关技术中实现大模型轻量化的方式降低了推理精度的技术问题，达到了在实现大模型轻量化的同时确保推理精度的技术效果。

本发明授权模型轻量化方法及电子设备在权利要求书中公布了：1.一种模型轻量化方法，其特征在于，包括： 将目标模型的输入序列划分为多个数据块； 针对任一数据块，基于该数据块与所述目标模型包括的多个专家模块的匹配度，确定目标专家模块； 基于所述目标专家模块，确定该数据块的路由向量； 基于多个所述数据块的路由向量和专家模块与设备的映射表，确定每个设备待处理的目标数据块，设备包括本地设备和远程设备； 针对任一远程设备待处理的目标数据块，确定该目标数据块相对于共享基础参数的差异参数，基于所述差异参数，生成残差数据块，以获得聚合请求包，将所述聚合请求包发送至该远程设备，以使该远程设备中的专家模块基于所述聚合请求包进行推理，获得该目标数据块的推理结果； 针对任一数据块，基于该数据块的路由向量，获取所述路由向量中每个目标专家模块对该数据块的推理结果，基于所述推理结果，确定该数据块的目标推理结果； 所述基于所述推理结果，确定该数据块的目标推理结果，包括： 针对该数据块的路由向量中的任一目标专家模块，获取该目标专家模块的梯度补偿项； 利用该目标专家模块的梯度补偿项对该数据块的差异参数进行补偿，获得该目标专家模块补偿后的目标差异参数； 获取多个所述目标专家模块补偿后的目标差异参数的范数； 基于多个所述目标专家模块补偿后的目标差异参数的范数，确定每个所述目标专家模块的加权系数； 基于每个所述目标专家模块的加权系数、每个所述目标专家模块对该数据块的推理结果和每个所述目标专家模块补偿后的目标差异参数，确定该数据块的目标推理结果； 所述基于每个所述目标专家模块的加权系数、每个所述目标专家模块对该数据块的推理结果和每个所述目标专家模块补偿后的目标差异参数，确定该数据块的目标推理结果，包括： 基于每个所述目标专家模块的加权系数、每个所述目标专家模块对该数据块的推理结果和每个所述目标专家模块补偿后的目标差异参数，确定每个所述目标专家模块对该数据块的校正后的推理结果； 基于每个所述目标专家模块对该数据块的校正后的推理结果和该数据块与每个所述目标专家模块的匹配度，确定该数据块的目标推理结果。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人苏州元脑智能科技有限公司，其通讯地址为：215000 江苏省苏州市吴中经济开发区综保区经一路1号8幢；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。