清华大学陶建华获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉清华大学申请的专利基于面向任务引导的问答模型集群蒸馏系统的问答方法、装置及设备获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120354862B 。
龙图腾网通过国家知识产权局官网在2025-08-19发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510828315.3,技术领域涉及:G06F40/35;该发明授权基于面向任务引导的问答模型集群蒸馏系统的问答方法、装置及设备是由陶建华;冯明宽;张帅;温正棋设计研发完成,并于2025-06-20向国家知识产权局提交的专利申请。
本基于面向任务引导的问答模型集群蒸馏系统的问答方法、装置及设备在说明书摘要公布了:本申请提出一种基于面向任务引导的问答模型集群蒸馏系统的问答方法、装置及设备,涉及大语言模型问答技术领域,通过获取待部署多问答任务目标模型集群的目标设备的设备参数值,并确定多问答任务目标模型集群的目标参数信息,进一步基于多问答任务教师模型集群中每个教师模型的多个任务引导因子,按照目标参数信息,对待训练学生模型集群进行集群蒸馏训练,得到多问答任务目标模型集群,最后将自于目标设备的目标多问答任务输入所述多问答任务目标模型集群,得到目标多问答任务的回答。该方法通过结合多个教师模型的知识,结合任务引导因子针对每个任务引导学生模型进行优化,在保持多问答任务协同推理能力的前提下实现模型高效部署,在资源受限环境下提高了问答模型集群的计算效率和部署可行性。
本发明授权基于面向任务引导的问答模型集群蒸馏系统的问答方法、装置及设备在权利要求书中公布了:1.一种基于面向任务引导的问答模型集群蒸馏系统的问答方法,其特征在于,所述方法包括: 获取待部署多问答任务目标模型集群的目标设备的设备参数值,所述设备参数值包括以下至少一者:存储空间大小、运算速度; 根据所述设备参数值,确定所述多问答任务目标模型集群的目标参数信息,所述目标参数信息包括以下至少一者:模型参数量、推理响应速度、推理计算量; 基于多问答任务教师模型集群中每个教师模型的多个任务引导因子,按照所述目标参数信息,对待训练学生模型集群进行集群蒸馏训练,得到所述多问答任务目标模型集群; 将自于目标设备的目标多问答任务输入所述多问答任务目标模型集群,得到所述目标多问答任务的回答; 其中,所述多问答任务教师模型集群包括K个教师模型;所述方法还包括: 将测试多问答任务输入第k个教师模型,得到第k个教师模型输出的T个回答,第t个回答为针对所述测试多问答任务中的第t个测试问答任务的回答; 根据第t个回答与所述第t个测试问答任务对应的第t个正确回答之间的差异,确定所述第k个教师模型对第t个测试问答任务的重要性评分; 根据所述第k个教师模型对第t个测试问答任务的重要性评分,以及所述第k个教师模型对T个测试问答任务的重要性评分,确定所述第k个教师模型对第t个测试问答任务的引导因子。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人清华大学,其通讯地址为:100084 北京市海淀区双清路30号清华大学;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。