华侨大学李弼程获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉华侨大学申请的专利基于微调与联合任务的大语言模型解释生成方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121257553B 。
龙图腾网通过国家知识产权局官网在2026-03-24发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511811470.0,技术领域涉及:G06F40/30;该发明授权基于微调与联合任务的大语言模型解释生成方法及系统是由李弼程;何凌杰;林熠笛设计研发完成,并于2025-12-04向国家知识产权局提交的专利申请。
本基于微调与联合任务的大语言模型解释生成方法及系统在说明书摘要公布了:本发明公开了基于微调与联合任务的大语言模型解释生成方法及系统,涉及自然语言处理领域,方法包括:对文本数据预处理并设计适用于零样本与少样本场景的提示模板;利用改进的mmBERT编码器对样本进行语义表示学习,获得适用于声明检测与解释生成任务的文本语义向量;通过QLoRA参数高效微调技术,分别对声明检测任务和解释生成任务进行大模型微调;进一步将两个任务联合训练,并通过QLoRA对联合模型进行优化,最终获得能够同时判断声明真实性并生成对应解释的端到端解释生成模型,用于对新文本数据自动输出真实性判断及其可解释性说明。本发明通过参数高效微调技术、联合任务训练模式和统一提示模板指导大语言模型实现了对文本数据的可解释性说明。
本发明授权基于微调与联合任务的大语言模型解释生成方法及系统在权利要求书中公布了:1.一种基于微调与联合任务的大语言模型解释生成方法,其特征在于,包括: S1,对收集到的文本数据进行预处理,获得预处理的数据,从预处理的数据中提取文本声明和相应的文本证据并进行配对,形成结构化的输入输出样本; S2,基于结构化的输入输出样本和指定格式的提示指导大语言模型处理声明和证据,生成适用于零样本和少样本场景下的提示模板; S3,基于提示模板和结构化的输入输出样本,通过改进后的mmBERT文本编码对结构化的输入输出样本进行编码处理任务,获得适用于声明检测任务的文本语义表示和适用于解释生成任务的文本语义表示; S4,将适用于声明检测任务的文本语义表示和适用于解释生成任务的文本语义表示通过QLoRA参数微调技术输入大语言模型,对声明检测任务和解释生成任务进行微调; S5,对微调后的声明检测任务和解释生成任务进行联合训练,并通过QLoRA对联合任务进行微调,获得最终的解释生成模型; S6,通过最终的解释生成模型对新收集到的文本数据进行解释生成,获得文本的真实性解释; 对声明检测任务进行微调的计算公式如下: ; ; ; 其中,为Sigmoid函数;表示对大模型使用QLoRA微调;表示声明检测任务下的参数调整,得出的结果为和;和为模型的可训练参数;为损失函数;函数用于判断声明是否得到证据的支持,其中的和由函数生成;表示时刻的预测结果;表示使用mmBERT生成的文本语义向量;表示条件概率的计算;表示声明的训练集;表示证据的训练集;表示证据怎样支持声明的训练集;表示时刻之前的所有预测结果;表示声明的预测集;表示证据的预测集;表示证据怎样支持声明的预测集; 对解释生成任务进行微调的计算公式如下: 其中,表示解释生成任务的参数调整,得出的结果为为模型的可训练参数;表示解释生成任务;表示对模型输出结果进行解码;为损失函数;表示时刻的预测结果;表示使用mmBERT生成的文本语义向量;表示条件概率的计算;表示申明的训练集;表示证据的训练集;表示证据怎样支持声明的训练集;表示解释的训练集;表示时刻之前的所有预测结果;表示申明的预测集;表示证据的预测集;表示证据怎样支持声明的预测集;表示解释的预测集; 对微调后的声明检测任务和微调后的解释生成任务进行联合训练,计算公式如下: ; ; ; 其中,表示解释生成任务的参数调整,得出的结果为和;和为模型的可训练参数;表示生成的声明以及解释,其中和为函数生成;为损失函数。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人华侨大学,其通讯地址为:362000 福建省泉州市丰泽区城东城华北路269号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励