北京网田科技发展有限公司柴青锋获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉北京网田科技发展有限公司申请的专利一种基于指令集训练方式的大模型微调方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN118504710B 。
龙图腾网通过国家知识产权局官网在2025-10-10发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202410646209.9,技术领域涉及:G06N20/00;该发明授权一种基于指令集训练方式的大模型微调方法及系统是由柴青锋设计研发完成,并于2024-05-23向国家知识产权局提交的专利申请。
本一种基于指令集训练方式的大模型微调方法及系统在说明书摘要公布了:本发明涉及机器学习技术领域,具体为一种基于指令集训练方式的大模型微调方法及系统,包括以下步骤:基于指令集行为规范,收集并分析指令集训练方法中的指令和操作码,定义多个指令的行为和约束条件并消除歧义,生成指令逻辑规范信息。本发明中,通过定义多个指令的行为和约束条件并消除歧义,提高模型训练过程中的指令清晰度和执行一致性,减少因模糊指令导致的错误学习和性能波动,构建状态转换模型优化逻辑一致性,通过实时监测和识别性能关键指标的异常变化,减少了长时间的错误训练和资源浪费,优化在多变的操作环境中模型的长期稳定性和性能,提高模型的适应性和实用性,增强了模型对未来数据变化的预测能力和响应速度。
本发明授权一种基于指令集训练方式的大模型微调方法及系统在权利要求书中公布了:1.一种基于指令集训练方式的大模型微调方法,其特征在于,包括以下步骤: 基于指令集行为规范,收集并分析指令集训练方法中的指令和操作码,定义多个指令的行为和约束条件并消除歧义,生成指令逻辑规范信息; 基于所述指令逻辑规范信息,构建状态转换模型模拟指令逻辑的执行过程,并使用大模型检验工具验证大模型,优化逻辑一致性,生成行为逻辑检验结果; 基于所述行为逻辑检验结果,识别关键性能指标的异常变化,包括精确度下降和损失函数上升,记录异常事件发生的时间和参数状态并回退大模型,生成稳定状态恢复日志; 基于所述行为逻辑检验结果,识别关键性能指标的异常变化,包括精确度下降和损失函数上升,记录异常事件发生的时间和参数状态并回退大模型,生成稳定状态恢复日志的步骤具体为: 基于所述行为逻辑检验结果,监控大模型关键性能指标,包括识别精确度下降和损失函数上升的关键点,记录关键点的时间信息和大模型参数状态,生成大模型异常性能记录; 基于所述大模型异常性能记录,分析引起性能变化的参数变动,执行大模型状态的回退操作,恢复大模型参数到上个稳定点,记录回退过程中参数和状态的变化,生成模型回退记录信息; 基于所述模型回退记录信息,分析大模型回退后的稳定性,连续监控大模型性能验证回退效果,生成稳定状态恢复日志; 基于所述稳定状态恢复日志,调整大模型参数优化学习率和正则化强度,监控调整效果预测大模型的长期稳定性和性能,生成动态性能调整日志; 基于所述动态性能调整日志,通过时间序列分析优化微调参数,预测微调过程中参数调整的周期性和非线性行为,生成参数行为预测结果; 基于所述参数行为预测结果,通过机器学习调整大模型参数,匹配差异化的操作条件并优化大模型性能,生成控制参数优化配置; 基于所述参数行为预测结果,通过机器学习调整大模型参数,匹配差异化的操作条件并优化大模型性能,生成控制参数优化配置的步骤具体为: 根据所述参数行为预测结果,识别需要调整的关键大模型参数,调整目标参数匹配多种操作环境,并记录调整的参数值和调整时间,生成参数调整分析数据; 基于所述参数调整分析数据,实时监测调整后的大模型性能,采用滑动窗口算法,分析并记录性能的实时数据和变化趋势,生成性能实时监控记录; 基于所述性能实时监控记录,分析调整后的参数对大模型性能的影响,包括精确度和损失函数,评估大模型长期运行的稳定性,生成控制参数优化配置。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京网田科技发展有限公司,其通讯地址为:100089 北京市海淀区东北旺西路8号中关村软件园8号楼二层219号房间;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励