买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉上海天数智芯半导体股份有限公司申请的专利大模型训练方法、推理方法、装置、设备及存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120430399B 。

龙图腾网通过国家知识产权局官网在2026-04-03发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510355841.2，技术领域涉及：G06N5/04；该发明授权大模型训练方法、推理方法、装置、设备及存储介质是由朱帅设计研发完成，并于2025-03-25向国家知识产权局提交的专利申请。

本大模型训练方法、推理方法、装置、设备及存储介质在说明书摘要公布了：本申请提供一种大模型训练方法、推理方法、装置、设备及存储介质，涉及人工智能技术领域。大模型包括推理模块和深度预测器；推理模块包括编码器、多层Transformer模块和解码器，方法包括：将训练样本分别输入编码器和深度预测器；经过编码器、多层Transformer模块和解码器对训练样本的处理后，获得每层Transformer模块对应的解码器输出的待推理token的预测结果和模型深度；通过深度预测器基于训练样本获得的预测模型深度；基于待推理token、预测结果、模型深度和预测模型深度对大模型进行优化，获得训练后的大模型。本申请通过对包含深度预测器的大模型进行训练，可以平衡推理效果和计算资源。

本发明授权大模型训练方法、推理方法、装置、设备及存储介质在权利要求书中公布了：1.一种大模型训练方法，其特征在于，所述大模型包括推理模块和深度预测器；其中，所述推理模块包括编码器、多层Transformer模块和每一层所述Transformer模块对应的解码器，所述方法包括： 将训练样本分别输入所述编码器和所述深度预测器；所述训练样本包括已推理tokens和待推理token；所述训练样本为不同主题的文本数据； 经过所述编码器、所述多层Transformer模块和所述解码器对所述训练样本的处理后，获得每层Transformer模块对应的所述解码器输出的待推理token的预测结果和模型深度； 通过所述深度预测器基于所述训练样本获得的预测模型深度； 基于所述待推理token、所述预测结果、所述模型深度和所述预测模型深度对所述大模型的内部参数进行优化，获得训练后的大模型； 所述基于所述预测结果、所述模型深度和所述预测模型深度对所述大模型的内部参数进行优化，包括： 根据所述待推理token和所述预测结果确定推理损失； 根据所述模型深度和所述预测模型深度确定模型深度损失； 根据所述推理损失和所述模型深度损失对所述大模型的内部参数进行优化； 所述根据所述推理损失和所述模型深度损失对所述大模型的内部参数进行优化，包括： 根据所述推理损失对所述推理模块的内部参数进行优化； 根据所述推理损失和所述模型深度损失确定总损失； 根据所述总损失对所述深度预测器的内部参数进行优化； 在对所述推理模块的内部参数进行优化过程中，所述深度预测器的内部参数保持不变，获得中间推理模块； 在对所述深度预测器的内部参数进行优化过程中，所述Transformer模块、所述编码器和所述解码器的内部参数保持不变，获得中间深度预测器； 利用所述推理损失和所述模型深度损失对所述中间推理模块和所述中间深度预测器的内部参数进行再次优化。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海天数智芯半导体股份有限公司，其通讯地址为：上海市闵行区陈行公路2168号3幢101室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。