数据空间研究院张佳佳获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉数据空间研究院申请的专利自适应多级微调多模态大模型的优化方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120105345B 。
龙图腾网通过国家知识产权局官网在2025-09-02发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510571721.6,技术领域涉及:G06F18/25;该发明授权自适应多级微调多模态大模型的优化方法及系统是由张佳佳;余海阳;曹燕;胡家武;王佐成;马韵洁;杭松;王晓伟设计研发完成,并于2025-05-06向国家知识产权局提交的专利申请。
本自适应多级微调多模态大模型的优化方法及系统在说明书摘要公布了:本发明涉及多模态大模型领域,公开了自适应多级微调多模态大模型的优化方法及系统。该方法构建多模态数据集;基于预训练的多模态基础大模型对单组样本中的模态数据进行编码,生成特征表示;计算每种模态数据特征的任务相关性评分、特征信息量评分和梯度规模评分,以生成单模态评分;计算不同模态间的模态对齐度评分、信息互补度评分和协同增益度评分,以生成跨模态交互评分;根据两种评分构建深度调整需求指标和交互强度需求指标,根据指标取值选择深度微调浅度微调与强交互弱交互的组合策略,对多模态基础大模型进行自适应优化;验证模型性能是否满足要求以迭代优化至满足要求。本发明节省计算资源,提升模型的表征和泛化能力。
本发明授权自适应多级微调多模态大模型的优化方法及系统在权利要求书中公布了:1.自适应多级微调多模态大模型的优化方法,其特征在于,包括: S1.构建包括多组样本的多模态数据集,每组样本包含不同类型的模态数据;其中,模态的类型包括文本模态、图像模态、视频模态和音频模态; S2.基于预训练的多模态基础大模型对单组样本中的模态数据编码,生成标准化特征表示; S3.计算每种模态数据特征的任务相关性评分、特征信息量评分和梯度规模评分,以生成单模态评分;任务相关性评分用于度量样本特征与任务目标之间的语义关联强度,特征信息量评分用于度量样本特征的信息丰富程度,梯度规模评分用于度量样本特征的重要程度; S4.计算不同模态间的模态对齐度评分、信息互补度评分和协同增益度评分,以生成跨模态交互评分;模态对齐度评分用于度量不同模态的样本特征在语义空间中的匹配程度,信息互补度评分用于度量不同模态的样本特征之间携带的互补信息量,协同增益度评分用于度量不同模态的样本特征融合后产生的协同效应; S5.基于单模态评分和跨模态交互评分,构建深度调整需求指标和交互强度需求指标,根据指标取值动态选择深度微调浅度微调与强交互弱交互的组合策略,自适应优化多模态基础大模型;步骤S5中,深度调整需求指标Dneed和交互强度需求指标Ineed的计算公式分别如下: 式中,κ1和κ2分别为深度调整需求指标中单模态评分和模态对齐度评分的权重系数;μ1和μ2分别为交互强度需求指标中信息互补度评分和协同增益度评分的权重系数;为跨模态交互评分中的模态对齐度分量;为跨模态交互评分中的信息互补度分量;为跨模态交互评分中的协同增益度分量;Ssingle为单模态评分; 其中,通过比较Dneed、Ineed与预设的策略选择阈值θD、θI之间的大小,选择以下四种策略之一作为自适应优化方向: 当DneedθD且IneedθI时,采用深度微调+强交互策略; 当DneedθD且Ineed≤θI时,采用深度微调+弱交互策略; 当Dneed≤θD且IneedθI时,采用浅度微调+强交互策略; 当Dneed≤θD且Ineed≤θI时,采用浅度微调+弱交互策略; 其中,采用滑动窗口机制动态更新策略选择阈值θD和θI。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人数据空间研究院,其通讯地址为:230000 安徽省合肥市高新区柏堰科技园创新大道288号工投高新智谷B区;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。