Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)刘学博获国家专利权

哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)刘学博获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)申请的专利基于大模型的轻量化领域指令微调数据合成方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120430303B

龙图腾网通过国家知识产权局官网在2025-09-02发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510938346.4,技术领域涉及:G06F40/279;该发明授权基于大模型的轻量化领域指令微调数据合成方法及装置是由刘学博;柯潇鹏;邓贺烜;张民设计研发完成,并于2025-07-08向国家知识产权局提交的专利申请。

基于大模型的轻量化领域指令微调数据合成方法及装置在说明书摘要公布了:本发明提供一种基于大模型的轻量化领域指令微调数据合成方法及装置,涉及面向问答的大语言模型数据合成技术领域。该方法包括:将构建的无标签数据集输入大语言模型中,获得合成数据集;采用合成数据集进行训练,获得训练好的数据合成模型;采用低秩分解适配器对训练好的数据合成模型进行指令微调,获得微调后的模型;将给定任务类型和与其相关的无标签数据输入训练好的数据合成模型中,生成具有问题、逻辑以及答案的数据;将无标签数据和具有问题、逻辑以及答案的数据进行合并,获得新的合成数据集;将新的合成数据集输入微调后的模型中进行评估,获得评估分数;根据评估分数进行过滤,获得高质量数据集。采用本发明可提高数据合成的效率。

本发明授权基于大模型的轻量化领域指令微调数据合成方法及装置在权利要求书中公布了:1.一种基于大模型的轻量化领域指令微调数据合成方法,其特征在于,所述方法包括: S1、构建无标签数据集;其中,无标签数据集包括:多种不同的任务类型和多领域的无标签文本数据; S2、将多种不同的任务类型和多领域的无标签文本数据输入大语言模型中,获得第一具有问题、逻辑以及答案的数据; S3、将多种不同的任务类型、多领域的无标签文本数据以及第一具有问题、逻辑以及答案的数据进行合成,获得第一合成数据集;采用第一合成数据集,通过构建的损失函数进行训练,获得训练好的数据合成模型; S4、从无标签数据集中随机采样无标签文本数据和任务类型输入训练好的数据合成模型,合成第二具有问题、逻辑以及答案的数据;将随机采样的无标签文本数据和任务类型以及第二具有问题、逻辑以及答案的数据进行合并,获得第二合成数据集; S5、采用大语言模型对第二合成数据集进行评估,获得第一评估分数;根据第一评估分数,获得评估数据集;根据评估数据集,通过低秩分解适配器以及构建的微调损失函数,对训练好的数据合成模型进行微调,获得微调后的数据合成模型; S6、将给定任务类型和与给定任务类型相关的无标签文本数据输入训练好的数据合成模型中,生成第三具有问题、逻辑以及答案的数据;将给定任务类型和与给定任务类型相关的无标签文本数据以及第三具有问题、逻辑以及答案的数据进行合并,获得第三合并数据集; S7、将第三合并数据集输入微调后的数据合成模型进行评估,获得第二评估分数;根据第二评估分数进行评估过滤,获得高质量领域特定数据集。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院),其通讯地址为:518000 广东省深圳市南山区桃源街道深圳大学城哈尔滨工业大学校区;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。