Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 北京邮电大学高欣获国家专利权

北京邮电大学高欣获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉北京邮电大学申请的专利一种基于时空异常Transformer的电力调度监控数据异常检测方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN117056839B

龙图腾网通过国家知识产权局官网在2025-07-25发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310806501.8,技术领域涉及:G06F18/2433;该发明授权一种基于时空异常Transformer的电力调度监控数据异常检测方法是由高欣;傅世元;薛冰;于家豪;陈玲俐;孟之航;方潇;李强伟设计研发完成,并于2023-07-03向国家知识产权局提交的专利申请。

一种基于时空异常Transformer的电力调度监控数据异常检测方法在说明书摘要公布了:本发明实施例提出了基于时空异常Transformer的电力调度监控数据异常检测方法,包括:构建时空异常Transformer模型,将电力调度监控历史数据作为模型的输入,计算重构误差、时间维关联性偏差和空间维关联性偏差;结合重构误差、时间维关联性偏差和空间维关联性偏差计算模型的损失,将损失作为优化目标对模型进行训练;将待检测的电力调度监控数据作为模型的输入,计算重构误差、时间维关联性偏差和空间维关联性偏差;结合重构误差、时间维关联性偏差和空间维关联性偏差计算输入数据的异常分数,据此判定输入的电力调度监控数据是否为异常。本发明实施例提供的技术方案,能够提升电力调度监控数据异常检测的准确率。

本发明授权一种基于时空异常Transformer的电力调度监控数据异常检测方法在权利要求书中公布了:1.一种基于时空异常Transformer的电力调度监控数据异常检测方法,其特征在于,包括如下步骤: 1构建时空异常Transformer模型,将电力调度监控历史数据作为模型的输入,计算重构误差、时间维关联性偏差和空间维关联性偏差,具体为: 将电力调度监控系统采集到的与电力调度系统业务相关的硬件和进程的运行状况历史数据作为模型的训练集,记为其中 代表实数集,N代表数据的特征,具体包括服务器的CPU使用率、内存使用率、磁盘IO、网络IO以及各相关进程的CPU占用率、内存占用率、磁盘IO、网络IO;Ttrain为历史数据集χtrain的总数据数目; 使用长度为L、步长为O的滑动窗口将历史数据集χtrain划分为多个时间窗口,记最后一个数据为xt的时间窗口为Xt={xt-L+1,xt-L+2,...,xt};搭建时空异常Transformer模型并计算输入数据的重构误差、时间维关联性偏差和空间维关联性偏差: 时空异常Transformer模型由空间-时间分支和时间-空间分支两部分组成;空间-时间分支由空间Transformer和时间异常Transformer首尾相接构成,时间-空间分支由时间Transformer和空间异常Transformer首尾相接构成; 空间-时间分支中的空间Transformer由M个空间Transformer层构成,每个空间Transformer层由多头空间自注意力、残差连接、两个规范化层以及前馈网络构成,记多头空间自注意力的头数为H;第m个空间Transformer层中第h个空间自注意力头的计算过程如下: Zm,h=Sm,hVm,h 其中,为上一个空间Transformer层的输出,首个空间Transformer层的输入为时间窗口Xt的转置,和为三个不同的线性层,Qm,h、Km,h和Vm,h分别为查询、键和值,dST为查询、键和值的维度,Softmax·为归一化指数函数,Sm,h为注意力权重,Zm,h为此空间自注意力头的输出; 第m个空间Transformer层结合全部H个空间自注意力头的输出经过残差连接、两个规范化层和前馈网络得到此空间Transformer层的输出,其过程如下: 其中,Concat·表示拼接,为线性层,Zm为多头空间自注意力的输出,LayerNorm·表示规范化,为第一个规范化层的输出,FFN·表示前馈网络,为此空间Transformer层的输出; 空间-时间分支中的时间异常Transformer由M个时间异常Transformer层构成,每个时间异常Transformer层由多头时间异常自注意力、残差连接、两个规范化层以及前馈网络构成,多头时间异常自注意力的头数同样为H,查询、键和值的维度为dTAT;时间异常Transformer的计算过程与空间Transformer相同;时间异常Transformer需要额外计算时间维关联性偏差,其过程如下: 其中,为上一个时间异常Transformer层的输出,首个时间异常Transformer层的输入为空间Transformer输出的转置,为线性层,σm,h为计算时间维先验关联性时的方差,为时间窗口中第i个数据所对应的方差,Rescale·表示通过除以总和来将输入缩放至和为1,Exp·表示计算以e为底的指数,i和j表示时间窗口中的第i个和第j个数据,Pm,h为时间维先验关联性,Pi m,h为时间窗口中的第i个数据所对应的时间维先验关联性,为时间窗口中的第i个数据所对应的注意力权重,KL·表示计算KL散度,TADXt为时间窗口Xt的时间维关联性偏差; 时间-空间分支中的时间Transformer由M个时间Transformer层构成,每个时间Transformer层由多头时间自注意力、残差连接、两个规范化层以及前馈网络构成,多头时间自注意力的头数同样为H,查询、键和值的维度为dTT;时间Transformer的计算方式与空间Transformer相同,首个时间Transformer层的输入为时间窗口Xt; 时间-空间分支中的空间异常Transformer由M个空间异常Transformer层构成,每个空间异常Transformer层由多头空间异常自注意力、残差连接、两个规范化层以及前馈网络构成,多头空间异常自注意力的头数同样为H,查询、键和值的维度为dSAT;空间异常Transformer的计算过程与空间Transformer相同,首个空间异常Transformer层的输入为时间Transformer输出的转置;空间异常Transformer需要额外计算空间维关联性偏差,其过程如下: 其中,Cm,h为第m个空间异常Transformer层中第h个空间异常自注意力头的空间维先验关联性,为第i个特征对第j个特征的空间维先验关联性,为第i个特征对第j个特征的注意力权重,SADXt为时间窗口Xt的空间维关联性偏差; 模型结合时间异常Transformer的输出和空间异常Transformer的输出通过线性层重构时间窗口Xt并计算重构误差,其过程如下: 其中,为时间异常Transformer的输出,为空间异常Transformer的输出的转置,XCAT为两个输出拼接后的结果,WRCO为重构时使用的线性层,Sigmoid·表示Sigmoid激活函数,为时间窗口Xt的重构,Xt,n为时间窗口Xt中的第n个特征,为重构的时间窗口中的第n个特征,为重构误差; 2结合重构误差、时间维关联性偏差和空间维关联性偏差计算模型的损失,将损失作为优化目标对模型进行训练,具体为: 基于步骤1中得到的重构误差时间维关联性偏差TADXt和空间维关联性偏差SADXt,计算时空异常Transformer模型的损失,其过程如下: 其中,k1、k2、k3为各项的系数,LmaxXt为模型在训练中的最大化阶段的损失,LminXt为模型在训练中的最小化阶段的损失; 使用Adam优化器根据优化目标训练时空异常Transformer模型中的网络参数和空间维先验关联性Cm,h,训练的迭代次数为E,批大小为B,学习率为lr;训练中的每次迭代分为最大化阶段和最小化阶段两部分,在最大化阶段中,模型的优化目标为: 在最小化阶段中,模型的优化目标为: 在训练过程中,如果LmaxXt和LminXt在Elr个迭代内都没有下降,则学习率lr降低为原来的一半;如果LmaxXt和LminXt在Ees个迭代内都没有下降,则训练过程提前终止; 3将待检测的电力调度监控数据作为模型的输入,计算重构误差、时间维关联性偏差和空间维关联性偏差,具体为: 记待检测的电力调度监控数据为xtest中的各特征与电力调度监控历史数据χtrain中的特征相同;结合xtest和其前L-1个时间点所采集的电力调度监控数据组成时间窗口Xtest,将Xtest输入到训练好的时空异常Transformer模型中,重复步骤1计算Xtest的重构误差时间维关联性偏差TADXtest和空间维关联性偏差SADXtest; 4结合重构误差、时间维关联性偏差和空间维关联性偏差计算输入数据的异常分数,据此判定输入的电力调度监控数据是否为异常,具体为: 基于步骤3中得到的时间窗口Xtest的重构误差时间维关联性偏差TADXtest和空间维关联性偏差SADXtest,计算Xtest中每个数据的异常分数,其过程如下: 其中,⊙表示矩阵元素间对应相乘,λ为时间维关联性偏差TADXtest的系数,ScoreXtest为时间窗口Xtest中每个数据的异常分数;ScoreXtest中的最后一个异常分数Scorextest即为待检测数据xtest所对应的异常分数; 重复步骤4计算全部电力调度监控历史数据χtrain的异常分数Scoreχtrain,将Scoreχtrain中的最大值作为阈值thr,如果待检测数据xtest的异常分数Scorextest大于thr,则待检测数据xtest为异常,实现电力调度监控数据异常检测。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京邮电大学,其通讯地址为:100876 北京市海淀区西土城路10号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。