买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉佛山路桥工程技术咨询有限公司申请的专利基于双参数稀疏正则化参数微调的大模型档案问答系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120407742B 。

龙图腾网通过国家知识产权局官网在2025-11-21发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510479256.3，技术领域涉及：G06F16/3329；该发明授权基于双参数稀疏正则化参数微调的大模型档案问答系统是由罗婉华;赵才华;杨锡鎏;常荣华;练远存;刘锦杰设计研发完成，并于2025-04-16向国家知识产权局提交的专利申请。

本基于双参数稀疏正则化参数微调的大模型档案问答系统在说明书摘要公布了：本发明适用于档案管理查询技术领域，尤其涉及基于双参数稀疏正则化参数微调的大模型档案问答系统，所述系统包括：查询生成模块，用于通过自然语言处理将用户输入的问题转化为语义查询数据，生成语义向量；知识库检索模块，用于筛选出与用户查询档案内容；生成增强模块，用于输出答案；优化模块，用于扩展知识库的语义覆盖范围、解析图片内容、对OCR文档进行预处理以及对大模型进行微调。本发明提供的基于双参数稀疏正则化参数微调的大模型档案问答系统，针对OCR文档中常见的乱码、信息缺失和结构混乱问题，采用了qwen2‑7b‑instruct模型进行智能化预处理，通过该模型，系统能够自动清理冗余换行符，重构段落结构，从而提升文本的逻辑性和连续性。

本发明授权基于双参数稀疏正则化参数微调的大模型档案问答系统在权利要求书中公布了：1.一种基于双参数稀疏正则化参数微调的大模型档案问答系统，其特征在于，所述系统包括： 查询生成模块，用于通过自然语言处理将用户输入的问题转化为语义查询数据，生成语义向量； 知识库检索模块，用于从本地知识库中提取对应文档，基于语义匹配进行检索，筛选出与用户查询档案对应的内容； 生成增强模块，用于将检索到的文档作为上下文信息，结合上下文语义与用户查询档案对应的内容，输出答案； 优化模块，用于扩展知识库的语义覆盖范围、解析图片内容、对OCR文档进行预处理以及对大模型进行微调； 对OCR文档进行预处理的过程中，在模型预处理阶段，通过qwen2-7b-instruct模型对原始OCR文本进行智能修复；在冗余删除与结构化阶段，优化文本的格式化处理，清除OCR提取过程中生成的无意义换行符、空白行或重复内容；在知识库优化阶段，基于预处理后的文本内容重新构建知识库的索引体系； 对大模型进行微调的步骤中，采用稀疏LoRA微调，稀疏LoRA的数学模型为： 假设需要对模型权重矩阵为进行微调，微调后的权重表示为： ， 其中，为低秩实数矩阵，d、r和k为整数，代表矩阵的行数和列数，为低秩微调矩阵； 引入双参数L2,1范数正则化，以对中的稀疏性进行约束，其正则化目标函数定义为： 其中，和为正则化系数，用于控制稀疏性强度，分别为矩阵A的和矩阵B的第i行j列元素。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人佛山路桥工程技术咨询有限公司，其通讯地址为：528300 广东省佛山市顺德区乐从镇乐从社区佛山新城天虹路46号信保广场1号3104单元；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。