佛山科学技术学院阮锦标获国家专利权
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
龙图腾网获悉佛山科学技术学院申请的专利一种transformer模型处理方法、可读存储介质及设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN114464172B 。
龙图腾网通过国家知识产权局官网在2025-08-12发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210082776.7，技术领域涉及：G10L15/06；该发明授权一种transformer模型处理方法、可读存储介质及设备是由阮锦标;段志奎;陈嘉维;于昕梅;高国智;严世泉;王虎伟设计研发完成，并于2022-01-24向国家知识产权局提交的专利申请。
本一种transformer模型处理方法、可读存储介质及设备在说明书摘要公布了：本发明提供了一种transformer模型处理方法、可读存储介质及设备，transformer模型处理方法包括步骤：在进行训练时，根据transformer模型的子层权重，计算得到目标层，在下一次训练时，删除或者保留目标层。本发明通过正向传播和反向传播来自动确认需要删除或者保留的子层，即通过本次训练得到的权重去计算下一次训练时需要删除或者保留的子层，进而减少了模型的参数量，实现轻量级的transformer模型。
本发明授权一种transformer模型处理方法、可读存储介质及设备在权利要求书中公布了：1.一种transformer模型处理方法，其特征在于，包括步骤： 在进行训练时，根据transformer模型的子层权重，计算得到目标层，在下一次训练时，删除或者保留目标层；transformer根据transformer模型的子层权重，计算得到目标层，删除或者保留目标层的步骤，包括： 在Transformer模型的Encoder结构中两个子层和Decoder结构的后两个子层，根据与子层输出相关的权重，做矩阵运算；后两个子层为：第二个MHA子层和FFN子层；子层输出相关的权重为：子层输出的最近的权重； 选取矩阵运算中的最小值，以最小值所在层为目标层，分别对每个子层求得不同的目标层，在下次训练时，删除目标层。
如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人佛山科学技术学院，其通讯地址为：528000 广东省佛山市南海区狮山镇仙溪水库西路佛山科学技术学院；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号