Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 湖南先汇智能科技有限公司郭慧获国家专利权

湖南先汇智能科技有限公司郭慧获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉湖南先汇智能科技有限公司申请的专利一种基于LoRA的大模型任务优化调整方法和系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120106165B

龙图腾网通过国家知识产权局官网在2025-08-05发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510588879.4,技术领域涉及:G06N3/08;该发明授权一种基于LoRA的大模型任务优化调整方法和系统是由郭慧;陈润泽;刘会鹏;余俊辉;杨富元设计研发完成,并于2025-05-08向国家知识产权局提交的专利申请。

一种基于LoRA的大模型任务优化调整方法和系统在说明书摘要公布了:本发明适用于大模型任务优化调整技术领域,提供了一种基于LoRA的大模型任务优化调整方法和系统。本发明通过进行应用任务监测,确定多个下游任务,匹配多个对应的LoRA模块,并初始化多个LoRA模块的矩阵参数;对多个LoRA模块进行参数训练,记录参数数据;使用句子嵌入模型,确定多个LoRA模块的嵌入表示;计算多个LoRA模块与多个下游任务之间的贡献权重,根据多个贡献权重,计算优化调整输出。能够针对多任务,实现更加灵活、适应性强的微调,动态平衡任务之间的资源分配与性能需求,能够有效应对多任务环境中的复杂性和异质性,且能够满足多任务系统的个性化要求,提升模型推理效率和整体表现。

本发明授权一种基于LoRA的大模型任务优化调整方法和系统在权利要求书中公布了:1.一种基于LoRA的大模型任务优化调整方法,其特征在于,所述方法具体包括以下步骤: 进行应用任务监测,确定多个下游任务,匹配多个对应的LoRA模块,并初始化多个所述LoRA模块的矩阵参数; 获取多个所述下游任务的数据集,对多个所述LoRA模块进行参数训练,记录参数数据; 获取多个所述下游任务的Prompt,使用句子嵌入模型,将多个Prompt和对应的LoRA模块映射到同一嵌入空间,确定多个LoRA模块的嵌入表示; 计算多个LoRA模块与多个下游任务之间的贡献权重,根据多个所述贡献权重,计算优化调整输出; 所述进行应用任务监测,确定多个下游任务,匹配多个对应的LoRA模块,并初始化多个所述LoRA模块的矩阵参数具体包括以下步骤: 进行应用任务监测,确定多个下游任务,多个下游任务,有不同的任务类型,包括:文本分类、机器翻译、问答系统、情感分析、文本摘要和命名实体识别; 根据多个所述下游任务,匹配多个对应的LoRA模块; 创建多个所述LoRA模块的LoRA结构; 初始化多个所述LoRA模块的LoRA结构的矩阵参数; 所述LoRA结构由两个矩阵构成:,其中,为低秩分解的秩,为输入维度,为输出维度; 所述计算多个LoRA模块与多个下游任务之间的贡献权重,根据多个所述贡献权重,计算优化调整输出具体包括以下步骤: 计算多个LoRA模块与多个下游任务之间的余弦相似度; 基于多个所述余弦相似度,计算多个所述LoRA模块的贡献权重; 根据多个所述贡献权重,计算优化调整输出; 多个所述余弦相似度的计算公式为: ; 其中,表示第个LoRA模块对应的余弦相似度,为输入的嵌入表示,表示向量点积,表示L2范数;表示第个LoRA模块的嵌入表示; 多个所述贡献权重的计算公式为: ; 其中,表示第个LoRA模块对应的贡献权重,共有个LoRA模块; 所述优化调整输出的计算公式为: ; 其中,为主模型参数,且保持不变。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人湖南先汇智能科技有限公司,其通讯地址为:410000 湖南省长沙市高新开发区麓谷街道青山路662号芯城科技园二期1栋201-8;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。