买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉广东跃昉科技有限公司申请的专利一种面向大模型系统的优化方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN117910582B 。

龙图腾网通过国家知识产权局官网在2025-06-06发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202410092904.5，技术领域涉及：G06N5/04；该发明授权一种面向大模型系统的优化方法是由袁博浒;袁穗聪;江朝晖设计研发完成，并于2024-01-22向国家知识产权局提交的专利申请。

本一种面向大模型系统的优化方法在说明书摘要公布了：本申请适用于人工智能技术领域，提供了一种面向大模型系统的优化方法，包括：在目标模型推理过程中，对目标模型中的参与计算数据进行引用计数，得到引用计数值；将引用计数值小于第一预设值的模型数据确定为低频引用数据；根据低频引用数据确定低质量语料；剔除预训练语料中的低质量语料，得到训练语料，训练语料用于训练得到优化后的模型。该方法通过对模型中参与FFN计算的模型数据进行引用计数，确定模型数据的实际应用情况，再根据模型数据的应用情况确定低质量语料，并对低质量语料进行剔除，减少了训练得到的模型参数，降低模型数据存储、计算成本，对模型进行优化的同时，保障了模型的推理服务质量。

本发明授权一种面向大模型系统的优化方法在权利要求书中公布了：1.一种面向大模型系统的优化方法，其特征在于，包括：在目标模型推理过程中，对所述目标模型中的参与计算数据进行引用计数，得到引用计数值，其中，所述参与计算数据为参与所述目标模型中前馈神经网络计算的模型数据；将所述引用计数值小于第一预设值的模型数据确定为低频引用数据；根据所述低频引用数据确定低质量语料；剔除预训练语料中的低质量语料，得到训练语料，所述训练语料用于训练得到优化后的模型；所述方法还包括：在所述目标模型推理过程中，对推理结果生成过程中的参与计算数据和所述推理结果的判定信息进行记录，得到推理记录信息，所述判定信息是由用户对于所述推理结果的好坏做出的；根据所述推理记录信息对所述参与计算数据进行计数，得到所述参与计算数据的引用计数值；获取所述参与计算数据的原权重和或原偏置参数；当所述参与计算数据在第二预设时长后的引用计数值大于第三预设值且所述推理结果判定为好时，增大所述原权重和或原偏置参数的值，得到所述参与计算数据的权重和或偏置参数；当所述参与计算数据在所述第二预设时长后的引用计数值小于第三预设值或所述推理结果判定为坏时，减少所述原权重和或原偏置参数的值，得到所述参与计算数据的权重和或偏置参数；所述推理记录信息还包括记录提示词，所述方法还包括：根据所述推理记录信息对记录提示词进行计数，得到所述记录提示词的提示次数；当所述记录提示词的提示次数大于第四预设值时，保存所述记录提示词对应的推理结果；获取用户输入提示词；确定所述用户输入提示词和所述记录提示词相似度大于第五预设值时，将所述记录提示词对应的推理结果作为生成结果输出；所述根据所述低频引用数据确定低质量语料的步骤前包括：在训练得到所述目标模型过程中，记录训练所采用的训练语料和所述目标模型中模型数据的对应关系，得到记录信息；对应地，所述根据所述低频引用数据确定低质量语料的步骤包括：根据所述低频引用数据，查询所述记录信息，得到所述低频引用数据对应的语料；根据所述低频引用数据对应的语料确定所述低质量语料。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人广东跃昉科技有限公司，其通讯地址为：519000 广东省珠海市横琴新区环岛东路1889号18栋218室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。