新疆大学安毅获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉新疆大学申请的专利基于注意力机制TCN-LSTM模型的表层海流预测方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN117195958B 。
龙图腾网通过国家知识产权局官网在2025-10-24发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202311390469.6,技术领域涉及:G06N3/045;该发明授权基于注意力机制TCN-LSTM模型的表层海流预测方法是由安毅;孙庆宇设计研发完成,并于2023-10-24向国家知识产权局提交的专利申请。
本基于注意力机制TCN-LSTM模型的表层海流预测方法在说明书摘要公布了:本发明属于海洋测绘技术领域,一种基于注意力机制TCN‑LSTM模型的表层海流预测方法,包括以下步骤:1通过数据采集模块采集表层海流真实数据,2采用实验数据处理模块处理表层海流数据,3采用模型搭建模块构造注意力机制TCN‑LSTM表层海流预测模型,4对表层海流数据进行验证和测试,5对神经网络模型进行预测。本发明方法利用长短期记忆网络特点以及时间卷积的优势,同时加入了注意力机制,通过对WaMoSII系统测得的某海域的真实历史海洋数据处理后进行预测。本发明提出的方法预测表层海流流速准确度达到了92.9%,流向准确率高达90.4%。
本发明授权基于注意力机制TCN-LSTM模型的表层海流预测方法在权利要求书中公布了:1.一种基于注意力机制TCN-LSTM模型的表层海流预测方法,其特征在于,包括以下步骤: 步骤1、通过数据采集模块采集表层海流真实数据,使用WaMoSII雷达系统在某海域上采集连续时间的海洋参数,包括采集时间、表层海流信息流速Usp、流向Udir,最大波高Hmax及平均波周期Tm2,具体包括以下子步骤: a选择宽阔海域,使用WaMoSII浪流监测系统固定在岸边,连接远程PC用于数据分析和储存; b记录采集开始时间,设置采集图像数量为32,存储方式为pol文件,笛卡尔框的大小设置为256*128,用于处理分析数据; c将WaMoSII通过图像反演得到的表层海流数据导出excel表格数据; 步骤2、采用实验数据处理模块处理表层海流数据,具体包括以下子步骤: a对表层海流数据异常进行处理,剔除掉异常值后填充,使用k近邻法填充空值,以保证预测效果,k近邻距离公式通过公式1进行描述, 其中,a表示特征值的次序,xi表示第一样本,xj表示第二样本,k的选取也决定着模型的好坏,k不能过大或者过小,过大可能或导致降低其泛化能力,如果过小则会影响精度,k表示多维空间中根据欧氏距离找到与待测样本最近邻的点的个数,这里k取值为8; b流向数据处理,对流向进行三角函数变换,其中流向从0°到360°变化起伏很大,这使得预测难度增加,由于360°分界线之间流向呈现断崖式跨越,在预测的过程中会导致流向预测的不稳定性,在使用深度学习方法预测角度时,从0到360度的角度转换为一个连续的、实数范围内的值,使用正弦函数或余弦函数进行编码,然后将其用作模型的输入,最后将得到的预测值通过反三角函数使其还原到正常区间即可; c采用连续小波变换对表层海流数据进行处理,连续小波变换公式通过公式2进行描述, 其中,xt表示输入信号,表示小波基函数,表示小波基函数的共轭,a表示连续小波变换中的尺度参数,b表示连续小波变换中的平移参数;小波变换对于去除表层海流数据中的噪声具有好的效果,通过分析表层海流数据中不同尺度的小波系数,进行有效的去噪处理,更好地提取出信号中的真实特征,用于后续模型的训练和测试; d对表层海流数据进行归一化处理,归一化公式通过公式3进行描述 其中,x表示表层海流原始数据,xmax表示表层海流原始数据集中的最大值、xmin表示表层海流原始数据集中的最小值; 步骤3、采用模型搭建模块构造注意力机制TCN-LSTM表层海流预测模型,通过LSTM处理输入表层海流数据,注意力机制将表层海流数据转换为查询query、键key和值value的形式,具体包括以下子步骤: a构建LSTM单元,将处理后的表层海流数据输入LSTM单元中,输入维度为t*n,其中:t是时间长度为16000,n是特征维度为5,LSTM层数为6,隐 藏层单元为20,经过第一层LSTM处理后,得到输出16000,20的二维数组,将这个输出作为第二层LSTM的输入,经过第二层LSTM处理后,得到的输出仍然是一个16000,20的二维数组,以此类推;LSTM单元结构主要包含输入门、遗忘门及输出门,计算公式通过公式4、5、6、7、8进行描述, it=σWi·[ht-1,xt]+bi4 ft=σWf·[ht-1,xt]+bf5 ot=σWo[ht-1,xt]+bo6 ht=ot*tanhCt8 其中:Wi、bi分别表示输入门的状态权重和偏置项,Wf、bf分别表示遗忘门的状态权重和偏置项,Wo、bo分别表示输出门的状态权重和偏置项,σ为sigmoid激活函数,ht-1为t-1时刻的隐藏状态,表示tanh层用来生成新的候选记忆单元,Ct表示候选记忆单元,ht表示隐藏状态是由输出门ot和候选记忆单元Ct决定;将选定的特征转换为LSTM模型可接受的输入格式,再把处理后的表层海流时间序列数据转化为二维数组形式,其中一个维度表示时间步,另一个维度表示特征,在每个时间步,LSTM单元会根据当前时间步的输入和前一时间步的隐藏状态进行计算,得到当前时间步的输出和新的隐藏状态; b构建TCN-LSTM模型,将LSTM的输出输入到TCN模型结构中,在LSTM模型之后添加一个卷积层作为TCN的起始点,将LSTM模型的输出转换为适合于TCN的特征表示形式;TCN模型主要包含多个卷积层,每个卷积层由一个卷积核和一个非线性激活函数组成,卷积核在时间维度上滑动以捕捉输入序列的局部模式,从而提取表层海流之间的特征信息;模型中包含3个残差模块,卷积层数为3,前两个设置卷积核数量为32,最后一个卷积核数量设置为16,卷积核大小为3,膨胀因子分别为1、2、4,这样设计使得模型在训练时更好的捕捉表层海流的全局特征,将LSTM16000,20的输出作为输入传递给3层TCN,每层TCN都有不同的卷积核数量和膨胀因子;第一层TCN具有32个卷积核,膨胀因子为1,卷积核大小为3,经过第一层TCN处理后,输出是16000,32的二维数组;第二层TCN也具有32个卷积核,膨胀因子为2,卷积核大小为3,经过第二层TCN处理后,输出是16000,32的二维数组;第三层TCN具有16个卷积核,膨胀因子为4,卷积核大小为3,经过第三层TCN处理后,输出是16000,16的二维数组;加入池化层,将全局平均池化层添加到TCN的最后,以减少特征图的维度并提取整体上的特征,每一层TCN中当前时刻t只与当前以及t时刻之前的信息有关,通过公式9进行描述, yt=fx1,x2,…xt9 其中:xt为一维向量,yt表示预测变量,f表示二者之间建立的函数,对于输入序列而言,卷积公式通过公式10进行描述, 其中:s表示输入时序表层海流信息,d为膨胀因子,k为滤波器大小,s-d·i为前序时间的位置信息; c在TCN卷积后加入注意力机制模块,注意力机制来源于机器视觉,是在处理信息时,忽略掉其他不重要的信息,注意力机制的函数通过公式11进行描述, 其中:k1,km为输入键序列,v1,vm为对应值序列,所对应的查询向量为q,为了解决向量维度对权重的影响,采用缩放点积注意力机制,其中注意力的评分函数为a,通过公式12进行描述, 其中:dk为输入向量的维度,k与查询向量q保持相同长度,kT为输入向量的转置矩阵; 将表层海流数据转换为查询query、键key和值value的形式,通过计算查询与每个键之间的相似度,来衡量查询与不同键之间的相关性,在这一步中,使用相似度来计算每个键对应的注意力权重,使用Softmax函数将相似度转化为注意力权重,使得所有键对应的注意力权重总和为1,每个值乘以对应的注意力权重,并对所有加权值进行求和,根据加权求和得到的结果,生成最终的输出;注意力机制的引入是帮助模型自动学习输入序列中的重要信息,使得模型能够更加关注表层海流之间的关键时刻和重要特征,通过TCN模型提取表层海流之间的特征信息输入到注意力机制中分配权重,分配完的数据输出到全连接层,计算后得到表层海流流速和流向结果,输入16000,16的二维数组传递到注意力机制中进行处理,最终输出的是一个16的一维数组; d将经过注意力加权的特征向量作为全连接层的输入,设置全连接层的参数,包括输入维度应该与注意力机制中的输出维度相匹配为16,输出维度设置为1,得到一个单独的数值作为输出,计算得到相应的yt、yt+2、yt+4时刻的表层海流参数; e采用滑动窗口,设置滑动窗口数量为10,步长为1,对输出得到的表层海流流速usp和流向uidr计算误差,验证模型的可行性; 步骤4、对表层海流数据进行验证和测试,将雷达系统WaMoSII采集的真实表层海流数据,测量天数为12天,共计1.6万组,再把这些表层海流数据按照训练集、验证集、测试集为8:1:1进行划分,用后2天的表层海流数据进行验证和测试; 步骤5、对神经网络模型进行预测,将处理好的表层海流数据输入到搭建好的神经网络模型来进行预测,将表层海流数据按照滑动窗口的方法进行输入,设定窗口的大小为10,输入特征为5,输出特征为表层海流流速Usp和表层海流流向Udir,每个模型的参数batch_size为512,LSTM隐含层为20,初始学习率为0.01,Relu为激活函数,包含3个残差模块,迭代次数为100,预测未来第1、2、4个时刻的表层海流流速值,对测试集做出连续的表层海流流速预测,优化算法为Adam,通过迭代快速计算出mini-batch表层海流中的梯度,将输出得到的表层海流流速和流向进行误差计算,主要误差评价指标为平均绝对误差MAE、平均绝对百分比误差MAPE、均方根误差RMSE和决定系数R2,通过公式13至16进行描述, 其中:yi表示表层海流数据第i个真实值,表示表层海流数据第i个预测值,表示表层海流数据预测的平均值,R2越大预测性能越好,其余指标越小,预测精度越高。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人新疆大学,其通讯地址为:830017 新疆维吾尔自治区乌鲁木齐市水磨沟区华瑞街777号新疆大学博达校区;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励