江苏电力信息技术有限公司徐思获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉江苏电力信息技术有限公司申请的专利面向电网领域的轻量化大语言模型微调方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121094054B 。
龙图腾网通过国家知识产权局官网在2026-02-17发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511640488.9,技术领域涉及:G06N3/096;该发明授权面向电网领域的轻量化大语言模型微调方法是由徐思;赵琳;傅启明;徐春雷;曾锃;凌进;吴鹏;刘攀;赵英杰设计研发完成,并于2025-11-11向国家知识产权局提交的专利申请。
本面向电网领域的轻量化大语言模型微调方法在说明书摘要公布了:本发明涉及大模型微调领域,具体涉及一种面向电网领域的轻量化大语言模型微调方法。本发明的具体方法包括:在边缘节点获取本地电网数据并通过轻量化大语言模型进行推理,得到运行状态数据;将运行状态数据上传至中心节点,并从轻量化模型版本库中选择匹配的微调模型版本,生成微调策略,确保训练样本的高效筛选和算力资源的合理分配。通过增量训练和LoRA技术,优化微调过程,大幅提高训练效率并降低计算开销。该方法能够在保证电网任务实时性的同时,充分利用边缘节点有限的计算资源,实现电网领域轻量化大语言模型的高效微调,提升模型在监控、故障诊断和运行优化等任务中的性能。
本发明授权面向电网领域的轻量化大语言模型微调方法在权利要求书中公布了:1.面向电网领域的轻量化大语言模型微调方法,应用于电网领域的边缘节点和中心节点,所述边缘节点用于部署轻量化大语言模型,所述中心节点包含算力资源和轻量化模型版本库,所述轻量化模型版本库存储有轻量化模型对应的预训练权重,其特征在于,所述微调方法包括: 获取边缘节点的本地数据,通过所述轻量化大语言模型进行推理,得到所述轻量化大语言模型的运行状态数据; 将所述运行状态数据上传至中心节点,从轻量化模型版本库中选择匹配的微调模型版本,生成所述轻量化大语言模型的微调策略,所述微调策略包括样本筛选逻辑和算力分配逻辑; 根据所述微调策略的样本筛选逻辑,通过所述轻量化大语言模型从边缘节点的本地数据中筛选待微调训练样本; 基于所述微调策略的算力分配逻辑和所述微调模型版本对应的预训练权重,通过所述微调训练样本进行增量训练,得到微调训练权重; 将所述微调训练权重下发至边缘节点,对所述轻量化大语言模型进行微调; 基于所述算力分配逻辑和所述微调模型版本对应的预训练权重,通过所述微调训练样本进行增量训练,得到微调训练权重,包括: 根据所述算力分配逻辑确定训练批次大小和学习率调度策略; 加载所述微调模型版本对应的预训练权重,冻结预训练模型的参数; 基于LoRA方法,在预训练模型的关键层中插入低秩分解矩阵; 将所述微调训练样本按照所述训练批次大小进行分批处理,仅对所述低秩分解矩阵进行训练更新; 通过梯度计算和参数优化,将低秩分解矩阵的输出与原权重矩阵的输出相加,得到微调训练权重。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人江苏电力信息技术有限公司,其通讯地址为:211000 江苏省南京市鼓楼区北京西路22号二、三层;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励