买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉宁波东方理工大学(暂名)申请的专利一种面向大型语言模型的动态层裁剪系统和方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120181137B 。

龙图腾网通过国家知识产权局官网在2025-10-03发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510652953.4，技术领域涉及：G06N3/045；该发明授权一种面向大型语言模型的动态层裁剪系统和方法是由沈晓宇;赵桉颢;张伟;范英琪;王项辉;张辛铭;叶方华设计研发完成，并于2025-05-21向国家知识产权局提交的专利申请。

本一种面向大型语言模型的动态层裁剪系统和方法在说明书摘要公布了：本发明涉及一种面向大型语言模型的动态层裁剪系统和方法，通过设置转换模块以将输入音频信号转化为多段等编码长度的输入标记的嵌入表示，通过设置路由调节装置以替代传统大型语言模型的转换器模型架构，采用全局标记感知路由算法动态调整计算资源分配，避免了固定资源分配导致的效率低下问题，提高了推理效率，减少了不必要的计算量。并且，路由调节装置将每段输入标记的嵌入表示进行多次感知估计映射和自注意估计映射以获得相应的输出标记，从而实现在转换器模型架构中解耦多层感知机和自注意力层的裁剪策略，使得计算资源分配更加合理，有效避免了统一裁剪所导致的资源浪费，同时保持了模型性能。

本发明授权一种面向大型语言模型的动态层裁剪系统和方法在权利要求书中公布了：1.一种面向大型语言模型的动态层裁剪系统，其特征在于，包括： 转换模块，被设置为将输入音频信号转化为多段等编码长度的输入标记的嵌入表示； 路由调节装置，与所述转换模块电连接，被设置为将每段所述输入标记的嵌入表示进行多次感知估计映射和自注意估计映射以获得相应的输出标记；其中，在每次所述感知估计映射后和每次所述自注意估计映射后均通过全局标记感知路由算法以根据本次的映射结果进行一次感知估计映射和自注意估计映射的资源分配； 优化模块，与所述路由调节装置电连接，被设置为通过两阶段优化策略对所述路由调节装置进行参数优化，并在第一阶段优化策略中通过路由优化损失函数以对所述全局标记感知路由算法进行参数优化，在第二阶段优化策略中通过低秩适配函数对所述多次感知估计映射和所述自注意估计映射进行参数优化； 所述路由调节装置为由数量等于每段所述输入标记的嵌入表示所含嵌入表示数量的路由‑转换器网络并联而成的网络结构，各所述路由‑转换器网络均为由多个路由‑转换器模块串联而成的网络结构； 在各所述路由‑转换器网络中，位于末尾的所述路由‑转换器模块为由一个路由器一、一个归一化单元和一个自注意力单元依次串联形成的网络结构，除位于末尾的所述路由‑转换器模块外的所有所述路由‑转换器模块均为由一个路由器一、一个自注意力单元、一个路由器二和一个前馈网络单元依次串联形成的网络结构，相邻的两个所述路由器一电连接，相邻的两个所述路由器二电连接，位于末尾的所述路由‑转换器模块中的所述归一化单元与上一个所述路由‑转换器模块中的所述路由器二电连接； 所述路由器一和所述路由器二均用于执行所述全局标记感知路由算法，所述前馈网络单元用于执行所述感知估计映射，所述自注意力单元用于执行所述自注意估计映射。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人宁波东方理工大学(暂名)，其通讯地址为：315200 浙江省宁波市镇海区庄市街道同心路568号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。