哈尔滨工程大学莫宏伟获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉哈尔滨工程大学申请的专利一种基于脉冲类脑模型的快速增量学习技术获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119398132B 。
龙图腾网通过国家知识产权局官网在2025-10-28发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411520999.2,技术领域涉及:G06N3/096;该发明授权一种基于脉冲类脑模型的快速增量学习技术是由莫宏伟;魏文泉;帅杰;刘翔宇;成牧航;李晓敏;盖一帆设计研发完成,并于2024-10-29向国家知识产权局提交的专利申请。
本一种基于脉冲类脑模型的快速增量学习技术在说明书摘要公布了:一种基于脉冲类脑模型的快速增量学习技术,属于计算机视觉技术领域。本发明选用Yolov3‑tiny模型作为脉冲神经网络的SpikingYolov3的基础模型,并对Yolov3‑tiny进行适配性改进;采用IF神经元模型作为SpikingYolov3的神经元模型;采用基于网络扩张的方法对Yolov3‑tiny进行增量学习训练;将训练完毕的模型权重通过ANN转SNN的方法赋值给新构造的SpikingYolov3;采用泊松编码的方式对测试图像进行编码操作,使其转化为异步脉冲序列,并送入SpikingYolov3模型中进行测试,并和对应的Yolov3‑tiny进行对比分析,得出SpikingYolov3模型的检测性能更优的结论。将SpikingYolov3应用到战场环境当中,实现对不同种类目标的精准检测。本发明解决了传统的网络模型在遇见新任务时需要重新训练等问题,为复杂目标的检测任务提供了新的解决方案。
本发明授权一种基于脉冲类脑模型的快速增量学习技术在权利要求书中公布了:1.一种基于脉冲类脑模型的快速增量学习方法,其特征在于:具体包括以下步骤: 步骤1:采用Yolov3-tiny模型作为基于脉冲神经网络的SpikingYolov3的基础模型,并对Yolov3-tiny模型进行改进; 步骤1.1:将目标检测Yolov3-tiny模型的第l层神经元的卷积操作和全连接运算简化为线性运算和非线性激活函数的组合: Ml=fWlMl-1,1≤l≤L 其中,向量Ml和向量Ml-1分别表示ANN模型当中第l层和第l-1层的所有神经元的输出,Wl表示第l-1层和第l层神经元之间的连接权重,f·表示非线性激活函数; 使用与SNN中的IF神经元的脉冲发放率具有强相关性的ReLU激活函数替换Yolov3-tiny中的LeakyReLU激活函数; 步骤1.2:将Yolov3-tiny中步长为2的最大池化层替换为同等步长的卷积层,同时删除步长为1的卷积层; 步骤1.3:将Yolov3-tiny中的上采样模块Sample替换为反卷积模块DeConv; 步骤1.4:取消Yolov3-tiny中的批量归一化BN层,将BN层的权值参数和卷积Conv层合并; 步骤2:选用IF神经元模型作为SpikingYolov3的神经元模型,使IF神经元模型的平均突触后电位来匹配Yolov3-tiny中神经元的激活函数值,实现IF神经元模型对激活函数的无偏近似; 步骤3:模训练型阶段,采用基于网络扩张的方法对Yolov3-tiny进行增量学习训练; 步骤3.1:在使用原始任务样本数据对Yolov3-tiny进行训练时,采用L1正则化的方式训练网络,使模型产生稀疏权重Wt'-1,减少各层之间神经元的连接: 其中,l表示网络的第l层,W为权重张量,是第l层的网络参数,是损失函数,Dt'是训练集;在对原始任务样本训练完之后,根据训练情况设置损失阈值; 步骤3.2:当此前未遇到的样本类型出现时,首先拟合稀疏线性模型来预测任务t',通过下式使用神经网络的顶层隐含单元: 得到输出单元和l-1层隐藏单元的连接,确定模型当中被新任务样本影响的单元和权重,固定没有与输出单元连接的部分,只训练被选中的子网络S1,其权重参数为 步骤3.3:计算出训练完毕后的新模型在验证集上的损失并和损失阈值进行比较;如新任务与旧任务高度相关,则认为学习知识足以完成新任务,此时选择性再训练即满足新任务;如新模型的损失值高于损失阈值,则认为新任务样本的特征和模型已学习到的样本特征差别较大,需要进行网络扩展;此时将子网S1当中的权重还原为 步骤3.4:当已学习特征不能准确表达新任务时,需要在原有网络模型中引进新的神经元;采用组稀疏正则化的方式来动态添加神经元,以适应对不同任务特征的学习;任务t'输入模型时,对模型的第l层和第l-1层进行添加,保留上时刻第l层和第l-1层的参数并分别添加N个参数以扩展权重矩阵: 步骤3.5:对新模型训练时,在梯度空间当中寻找不影响旧任务性能的可行域,使模型在此区域里进行梯度更新;此时旧任务样本并不参与对新任务的训练,而是对模型梯度下降的方向进行约束: 其中,Mt'表示旧任务样本的集合,表示新任务样本上的梯度,表示旧任务样本上的梯度;当二者的梯度方向的夹角为锐角时,使用对模型进行梯度更新不会影响模型在旧任务上的表现; 步骤4:将训练完毕的模型权重通过ANN转SNN的方法赋值给新构造的SpikingYolov3; 步骤5:使用新旧任务测试集样本分别对SpikingYolov3模型和对应的Yolov3-tiny进行测试,得出各自的目标检测性能指标,并将二者进行对比分析,得出SpikingYolov3模型的检测性能更优; 步骤5.1:测试集进入模型之前,采用泊松编码的方式对测试图像进行编码操作,使其转化为异步脉冲序列;将输入图像编码为符合泊松分布的脉冲发放形式;将图像当中的每一个像素转化为相互独立的泊松编码,设定总时间步长的个数为T,在每一个时间步长内,以图像中单位像素的像素值作为产生脉冲的依据,像素值越大,产生脉冲的概率越高;因此得到每一张图像对应的脉冲序列,最后将该脉冲序列送入SNN的输入层当中; 步骤5.2:在脉冲序列输入SNN模型之后,采用由卷积批归一化和IF神经元组成的模块对脉冲序列进行特征信息的提取,通过反卷积模块DeConv对小尺寸特征进行上采样处理,进而实现多尺度特征之间的融合;最后通过两个不同尺度的检测头对目标进行检测; 步骤5.3:采用准确率P、召回率R和平均精度mAP作为SpikingYolov3模型的性能评估指标,这些指标的计算公式为: 其中,TP表示模型将正样本预测成正样本的数量,FP表示模型将负样本预测成正样本的数量,FN表示模型将正样本预测成负样本的数量;PR代表准确率与召回率的曲线;i'代表数据样本中的第i'个类别,n代表数据样本的类别总数; 步骤6:利用SpikingYolov3执行小目标检测任务,模型通过对小样本数据的快速增量学习,实现对不同种类的目标进行精准检测,应对突发事件。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人哈尔滨工程大学,其通讯地址为:150001 黑龙江省哈尔滨市南岗区南通大街145号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励