南京大学李文斌获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉南京大学申请的专利基于动态拓展提示生成器的持续学习方法、系统、设备及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119647540B 。
龙图腾网通过国家知识产权局官网在2025-11-11发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411525281.2,技术领域涉及:G06N3/08;该发明授权基于动态拓展提示生成器的持续学习方法、系统、设备及存储介质是由李文斌;杨言;霍静;高阳设计研发完成,并于2024-10-29向国家知识产权局提交的专利申请。
本基于动态拓展提示生成器的持续学习方法、系统、设备及存储介质在说明书摘要公布了:本发明公开了一种基于动态拓展提示生成器的持续学习方法、系统、设备及存储介质,所述方法包括:将数据集依据持续学习设定划分为不同任务的数据得到持续学习的数据;初始化基于提示的持续学习网络,使用第一个任务的数据训练模型;根据第一个任务数据训练得到的模型,进行参数更新,拓展生成器的模块;保持旧的提升生成器参数冻结,使用新的任务数据训练更新后的模型;重复模型更新和参数训练过程,并将图像特征映射为伪任务身份序号,辅助模型选择对应的参数;所述系统包括训练模块,参数更新模块,优化模块以及映射模块。本发明有效减少了灾难性遗忘,并促进了新任务的无缝获取,极大程度的促进了持续学习性能的提升。
本发明授权基于动态拓展提示生成器的持续学习方法、系统、设备及存储介质在权利要求书中公布了:1.一种基于动态拓展提示生成器的持续学习方法,其特征在于,包括如下步骤: 1按照持续学习范式,准备数据集,将数据集依据持续学习设定划分为不同任务的数据得到持续学习的数据; 2初始化基于提示的持续学习网络,使用第一个任务的数据训练模型; 3根据第一个任务数据训练得到的模型,进行参数更新,拓展提示生成器的模块; 4保持旧的提示生成器参数冻结,使用新的任务数据训练更新后的模型; 5重复步骤4中的模型更新和参数训练过程,训练模型参数,并将图像特征映射为伪任务身份序号,辅助模型选择对应的参数; 所述步骤2采用ViT模型架构; 所述ViT模型架构利用Transformer架构处理视觉任务,包括一个补丁嵌入层、一组L个Transformer层和一个分类器; 所述分类器分类过程包括: 首先,数据集通过嵌入层被分割为n个补丁令牌,每个补丁代表一个d维向量; 接着,一个可训练的分类令牌[]被附加到这些补丁令牌上,以创建完整的输入令牌集,令表示第层Transformer的输入令牌,结构如下: , 令牌会进入第层Transformer,生成供下一层使用的; 所述Transformer层包括多头自注意力模块、前馈网络、层归一化和残差连接,每个Transformer层都分配了它自己的提示生成器,动态拓展提示生成器DEG通过引入新的、任务特定的生成器来扩展,导致了一系列生成器的集合: , 其中,n为任务的总数,为了确定当前任务使用哪个生成器,DEG计算从类别特征派生的伪任务标识; 所述步骤5包括: 利用预训练的ViT模型主干作为特征提取器,模型处理编码器输入x,并从分类令牌[]的输出中提取类别特征,所述类别特征通过一个可学习的投影矩阵投射到一个n维空间,从中选择最可能的任务标识作为伪任务标识,令表示预训练的编码器,代表投影矩阵,伪任务标识计算公式如下: , 其中,表示向量的第个元素,表示与分类令牌[]对应的特征向量。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人南京大学,其通讯地址为:210009 江苏省南京市鼓楼区汉口路22号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励