Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
专利交易 商标交易 积分商城 国际服务 IP管家助手 科技果 科技人才 会员权益 需求市场 关于龙图腾 更多
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 南京理工大学沈肖波获国家专利权

南京理工大学沈肖波获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉南京理工大学申请的专利一种基于对比学习的无监督鲁棒图结构学习方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116957048B

龙图腾网通过国家知识产权局官网在2026-04-14发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310697511.2,技术领域涉及:G06N3/088;该发明授权一种基于对比学习的无监督鲁棒图结构学习方法及系统是由沈肖波;孙雨涛设计研发完成,并于2023-06-13向国家知识产权局提交的专利申请。

一种基于对比学习的无监督鲁棒图结构学习方法及系统在说明书摘要公布了:本发明公开了一种基于对比学习的无监督鲁棒图结构学习方法及系统。方法为:根据节点自身的特征信息构建图学习器,包括对称稀疏处理模块和自监督网络模块,输出图结构学习视图;将原图结构进行低秩和稀疏增强,输出锚定图对;锚定图对与学习视图一同进行数据增强;处理后视图放入编码器,得到对应图节点表示;构造交叉熵函数计算对比学习损失,并优化图学习器、自监督网络的参数,得到最终模型与图结构学习视图。所述系统包括图学习器构建模块、锚定图对确定模块、数据增强模块、编码器处理模块、对比学习损失计算模块。本发明获得的图学习视图没有对下游任务的限制,对标签信息没有依赖,泛化性更强,在生物信息学、推荐系统等任务上有重要意义。

本发明授权一种基于对比学习的无监督鲁棒图结构学习方法及系统在权利要求书中公布了:1.一种基于对比学习的无监督鲁棒图结构学习方法,其特征在于,需要处理的图结构为文献引用网络,用于完成文本分类任务,图结构包括图自身的标签信息,节点自身的特征信息,节点之间的关联信息,节点之间的类别标签信息,具体步骤如下: 步骤1、根据节点自身的特征信息构建图学习器,包括对称稀疏处理模块和自监督网络模块,输出图结构学习视图; 步骤2、将原图结构分别进行低秩和稀疏增强,输出锚定图对; 步骤3、将步骤2所得锚定图对与步骤1所得的图结构学习视图一同进行数据增强,包括去边和特征掩盖,得到处理后视图; 步骤4、将步骤3所得处理后视图结果放入编码器,得到分别与锚定图与处理后视图对应的图节点表示; 步骤5、根据所得到的图节点表示构造交叉熵函数计算对比学习损失,并优化步骤1图学习器和其中的自监督网络模块的参数,得到最终图结构学习器模型与图结构学习视图; 步骤1所述根据节点自身的特征信息构建图学习器,包括对称稀疏处理模块和自监督网络模块,输出图结构学习视图,具体如下: FGP学习器:通过独立的参数直接对邻接矩阵的每个元素建模,不需要额外的输入,FGP学习器定义为: ; 其中θ=Ω∈Rn×n是一个参数矩阵;·是一个非线性函数,使得训练更加稳定;为学习到的图结构矩阵;是一个可学习参数矩阵;Rn×n是所有n×n维的实数矩阵集合,n表示矩阵维度;FGP学习器的假设是图中的每条边都是独立存在的; 自监督任务基于以下假设:适用于预测节点特征的图结构也适用于预测节点标签;通过屏蔽一些输入特征或对输入特征添加噪声,训练一个独立的GNN,更新邻接矩阵后,使邻接矩阵能够恢复被屏蔽特征或噪声;自监督网络模块基于去噪自编码器,其中GNNS接收所生成的和添加噪声后的特征矩阵,输出一个特征矩阵,并与原先的特征矩阵相结合,从而得到损失函数如下: ; 其中,为添加噪声后的特征矩阵;为原特征矩阵;为邻接矩阵;为通过添加噪音和邻接矩阵后由GNNS预测的特征矩阵;为GNNS的参数;表示计算两个特征矩阵差异度函数; 步骤2所述将原图结构分别进行低秩和稀疏增强,输出锚定图对,具体如下: 2.1对设定视角的图结构邻接矩阵进行SVD分解为特征向量矩阵和特征值矩阵相乘的形式,并删除设定数量的大于设定阈值的奇异值,再把特征向量矩阵和特征值矩阵组合起来,重新得到低秩处理过后的图结构邻接矩阵S1; 2.2降低邻接矩阵的核范数,使对比学习器能捕捉到稀疏特性,并能学习到一个免疫攻击影响带来稀疏结构的图结构邻接矩阵S2; 2.3将学习者视角分别和S1、S2这两个不同的锚定图进行对比学习,得到两个不同的对比损失;两个损失分别向前传播,进而更新图结构学习器模型所有的参数;于是整个图结构学习器将从这两个方向进行训练,在训练结束之后,将会学习得到两个不同图结构,如下式处理这两个图结构: ; 其中为学习到的最终图结构,为锚定视图1,为锚定视图2,为调整锚定视图权重参数; 步骤3所述将步骤2所得锚定图对与步骤1所得的图结构学习视图一同进行数据增强,包括去边和特征掩盖,得到处理后视图,具体如下: 3.1为了扰乱节点特征,随机选择一部分特征维度,并用零进行遮盖;对于给定的特征矩阵X,首先采样一个遮盖向量mx∈{0,1}d,其中x为一维的特征向量,d为特征向量的维度,每个元素独立地从伯努利分布中以概率px进行抽样;然后,模型使用mx对每个节点的特征向量进行遮盖; 3.2去边模块通过随机删除一部分边缘来损坏图结构;具体而言,对于给定的邻接矩阵A,首先采样一个遮盖矩阵Ma∈{0,1}n×n,其中每个元素独立地从伯努利分布中以概率pa进行抽样,其中a为一维的特征向量,n×n为邻接矩阵的维度;然后,将邻接矩阵用Ma进行遮盖; 3.3联合利用这两种增强方案和之前已有的低秩增强和稀疏增强方案来生成在学习者视图和锚定视图上的增强图结构: ; ; 其中l和a分别是增强的学习者视图和锚定视图;和分别为学习者视图未增强的邻接矩阵和锚定视图未增强的邻接矩阵;为去边变换、为特征扰乱变换、为低秩变换、为稀疏变换; 为了在两个视图中获得不同的上下文,两个视图的特征遮盖使用不同的概率;对于边缘删除,由于两个视图的邻接矩阵已经显著不同,使用相同的删除概率;对于低秩增强和稀疏增强,将以设定的概率同时对一视图施加影响,使图结构学习器模型同时受到干净视图和污染视图的影响; 步骤4所述将步骤3所得处理后视图结果放入编码器,得到分别与锚定图与处理后视图对应的图节点表示,具体如下: 4.1基于图结构学习器模型的编码器·从增强学习者视图l和锚定视图a中提取节点级表示: ; 其中,θ是编码器fθ·的参数;和∈Rn×d1,分别是学习者视图和锚定视图的节点表示矩阵;d1是表示维度,为学习者视图的编码表示,为锚定视图的编码表示,Rn×d1为n×d1维度的所有矩阵集合,n为节点个数;图结构学习器模型使用GCN编码器,并将其层数L1设置为2; 4.2在编码器之后,一个具有L2个MLP层的投影器·将表示映射到另一个潜空间,其中计算对比损失: ; 其中是投影器·的参数,而Zl和Za∈Rn×d2是学习视图锚定视图的投影节点表示矩阵;其中d2是投影维度,为学习者视图的投影表示,为学习者视图的投影表示,Rn×d2为n×d2维度的所有矩阵集合,n为节点个数; 步骤5所述根据所得到的图节点表示构造交叉熵函数计算对比学习损失,并优化步骤1图学习器和其中的自监督网络模块的参数,得到最终图结构学习器模型与图结构学习视图,具体公式如下: ; ; 其中,是总损失,余弦相似度函数,是温度参数,为交叉熵损失函数,为第i个点在学习者视图的表示,为第i个点在锚定视图的表示,k为循环参数,遍历图中所有点;由此函数优化得到图学习器参数,自监督网络参数,并最终得到学习视角作为优化后的鲁棒图结构。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人南京理工大学,其通讯地址为:210094 江苏省南京市玄武区孝陵卫200号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。