Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 南京大学殷亚凤获国家专利权

南京大学殷亚凤获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉南京大学申请的专利基于数据增强与知识蒸馏的可增类行为识别系统及方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN114638289B

龙图腾网通过国家知识产权局官网在2025-08-08发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210216245.2,技术领域涉及:G06F18/241;该发明授权基于数据增强与知识蒸馏的可增类行为识别系统及方法是由殷亚凤;刘仲;谢磊;陆桑璐设计研发完成,并于2022-03-07向国家知识产权局提交的专利申请。

基于数据增强与知识蒸馏的可增类行为识别系统及方法在说明书摘要公布了:本发明公开了一种基于数据增强与知识蒸馏的可增类行为识别系统及方法,包括:数据采集单元,用于采集用户运动时的传感器数据;数据预处理单元,输出经过预处理后的行为数据;存储单元,用于存储旧行为类别代表样本集和旧行为识别模型;行为识别单元,用于对预处理后的行为数据进行识别和分类;增类训练单元,输出一个新行为识别模型;所述新行为识别模型对旧行为类别数据或新行为类别数据进行识别,输出行为识别结果。本发明在行为识别的持续学习过程中,保证了持续学习性能和资源成本优势;同时符合现实生活中用户行为的动态扩张性,对未知的新类别行为能够保持可持续性的增类识别性能。

本发明授权基于数据增强与知识蒸馏的可增类行为识别系统及方法在权利要求书中公布了:1.一种基于数据增强与知识蒸馏的可增类行为识别系统,其特征在于,包括:数据采集单元、数据预处理单元、存储单元、行为识别单元和增类训练单元; 数据采集单元,用于采集用户运动时的惯性传感器三个轴的加速度计和三个轴的陀螺仪数据; 数据预处理单元,对获取的加速计数据和陀螺仪数据进行重采样,裁剪数据长度以及归一化数据的值,输出经过预处理后的行为数据; 存储单元,用于存储旧行为类别代表样本集和旧行为识别模型; 行为识别单元,用于对所述预处理后的行为数据进行识别和分类,对于新行为类别,改变分类器的输出类别数,并将新行为类别的样本和旧行为类别的代表性样本作为训练样本,产生一个增类训练任务,发送给增类训练单元; 增类训练单元,获取存储单元存储的旧行为识别模型,使用新行为类别的样本以及旧行为类别的部分代表性样本对旧行为识别模型进行增类训练,输出一个新行为识别模型;所述新行为识别模型对旧行为类别数据或新行为类别数据进行识别,输出行为识别结果; 所述行为识别单元包括:特征提取模块和分类器模块; 所述特征提取模块,将数据预处理单元处理后的行为数据进行编码,输出一个256维特征向量; 所述分类器模块,将编码后的256维特征向量与分类器的隐藏层特征矩阵进行内积计算,输出一个N维向量,N代表行为类别数量,N维向量上最大数值对应的类别即为分类结果; 所述增类训练单元包含知识蒸馏模块和数据增强模块; 所述知识蒸馏模块,获取旧行为识别模型Mo的输出与新行为识别模型Mt的输出,进行损失函数计算,计算结果用于指导新行为识别模型Mt的训练,知识蒸馏模块包含:隐藏层特征向量蒸馏模块和隐藏层自注意力矩阵蒸馏模块;将行为数据输入到新行为识别模型Mt和旧行为识别模型Mo中,新行为识别模型Mt和旧行为识别模型Mo都会输出各自的隐藏层特征向量和隐藏层自注意力矩阵; 所述数据增强模块,使用旧行为类别代表样本集Dold输入到新行为识别模型Mt中,输出特征向量,随机选取两个样本的特征向量按照概率分布线性组合,同时将每个样本的标签按照相同的概率分布线性组合,线性组合后的特征向量加入随机噪声和标签进行反向传播,训练新行为识别模型Mt,增强模型的泛化性能; 所述隐藏层特征向量蒸馏模块分为两部分,一部分蒸馏隐藏层特征向量的维度信息,另一部分蒸馏隐藏层特征向量的时序信息; 隐藏层特征向量的维度信息蒸馏如下:对新行为识别模型Mt输出的隐藏层特征向量和旧行为识别模型Mo输出的隐藏层特征向量计算损失,用于反向传播,训练新行为识别模型Mt,使新行为识别模型Mt获取旧行为识别模型Mo中旧行为类别的知识,公式表达如下: 其中,代表旧行为识别模型Mo输出的隐藏层特征向量,代表新行为识别模型Mt输出的隐藏层特征向量;W表示特征维度,T表示特征向量长度,l表示批处理的样本数量; 隐藏层特征向量的时序信息蒸馏如下:行为识别模型输出的隐藏层特征向量在时序上存在依赖关系,蒸馏隐藏层特征向量的时序依赖关系,从时序相关性中寻找规律;将新行为识别模型Mt和旧行为识别模型Mo的隐藏层特征向量各自进行矩阵转置和乘法运算,再进行蒸馏,公式表达如下: 其中,DKL代表计算KL散度,即两个向量之间的差异性;|T|代表特征向量长度;代表特征向量维度;表示旧行为识别模型Mo的隐藏层特征向量通过矩阵转置和乘法运算得到的权重注意力矩阵;表示新行为识别模型Mt的隐藏层特征向量通过矩阵转置和乘法运算得到的权重注意力矩阵;表示计算得到的时序相关性的损失; 隐藏层自注意力矩阵蒸馏模块的输入是新行为识别模型Mt和旧行为识别模型Mo分别输出的隐藏层自注意力矩阵,公式表达如下: 其中,表示旧行为识别模型Mo输出的隐藏层自注意力矩阵,表示新行为识别模型Mt输出的隐藏层自注意力矩阵,MSE,表示计算两个向量之间的平均欧几里得距离,Γ表示多头自注意力模块的多头数量,表示隐藏层自注意力矩阵的损失值; 所述数据增强模块包含基于线性组合的数据增强和噪声增强; 所述基于线性组合的数据增强具体为:在增类训练过程中,将存储单元中的代表样本集输入到新行为识别模型Mt,新行为识别模型Mt输出的隐藏层特征向量进行线性组合获得新的特征向量,从而通过产生更多的样本提高模型的泛化性;公式如下: 其中,xi和xj表示输入到新行为识别模型Mt的隐藏层特征向量,yi和yj分别对应于xi和xj的分类标签,表示线性组合之后的特征向量,表示线性组合之后的标签,λ表示超参,该超参服从正态分布。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人南京大学,其通讯地址为:210093 江苏省南京市鼓楼区汉口路22号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。