买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉南京大学申请的专利一种基于扩散模型的自监督预训练方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116524307B 。

龙图腾网通过国家知识产权局官网在2025-12-26发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202310350662.0，技术领域涉及：G06V10/778；该发明授权一种基于扩散模型的自监督预训练方法是由陈力军;刘佳;王旭东;吕欢欢;白海洋设计研发完成，并于2023-04-04向国家知识产权局提交的专利申请。

本一种基于扩散模型的自监督预训练方法在说明书摘要公布了：本发明提供了一种基于扩散模型的自监督预训练方法，包括以下步骤：步骤1，在预训练的数据集上基于噪声预测的方式训练扩散模型，并将其作为教师网络；步骤2，将步骤1中训练完的扩散模型中U‑Net网络中的上采样部分的特征图提取出来，并进行拼接；步骤3，将学生网络输出的特征图与步骤2中提取的特征图进行对齐，从而对学生网络进行训练；步骤4，通过步骤3训练完的学生网络得到图像的全局特征图。本发明方法对图像中不同区域的语义相关性进行了显式地建模，并且添加了对图像的全局特征的正则化约束，从而大幅提升了通过本发明方法预训练得到的模型在图像分类、目标检测和语义分割等下游任务的性能。

本发明授权一种基于扩散模型的自监督预训练方法在权利要求书中公布了：1.一种基于扩散模型的自监督预训练方法，其特征在于，包括以下步骤： 步骤1，在图片数据集上采用噪声预测的方法训练扩散模型，并将训练好的扩散模型作为教师网络； 步骤2，使用步骤1中得到的训练好的扩散模型提取特征向量，即将输入图片经过扩散模型中的前向扩散过程得到对应时间步的图片，然后将得到的图片输入扩散模型中的噪声预测网络，并将噪声预测网络中上采样部分的中间层的特征图提取出来，最后将特征图进行拼接，并进行采样得到输入图片的特征向量； 步骤3，将待训练的神经网络作为学生网络，并对其进行训练，即对待训练的学生网络输出的特征图进行采样，然后与步骤2中采样得到的特征向量进行对齐，最后采用反向传播对学生网络进行训练，得到训练完成的学生网络； 步骤4，将步骤3中得到的训练完成的学生网络作为特征提取器，进行特征提取，将图像输入训练完成的学生网络得到图像的全局特征图，完成基于扩散模型的自监督预训练； 步骤5，将完成基于扩散模型的自监督预训练的学生网络应用于目标检测或语义分割的任务中，对图像中的物体进行识别和定位； 其中，步骤3中所述对学生网络进行训练，具体方法包括： 步骤3-1，对输入图像x0进行数据增强，并使用二进制掩码遮去图像中50％的部分； 步骤3-2，将图像剩余的50％的部分输入学生网络中的编码器，得到剩余部分图像的特征向量； 步骤3-3，将步骤3-2中得到的特征向量和可学习的掩码token拼接起来，并输入到学生网络中的解码器中，从而得到剩余图像的特征图和全局特征； 步骤3-4，将步骤3-3得到的特征图通过与步骤2-2相同的采样方法得到剩余图像的特征向量 步骤3-5，计算学生网络生成的特征向量和教师网络生成的特征向量之间的距离相关系数然后采用第二损失函数进行特征图对齐，方法如下： 其中，N表示数据集中图片的数量，α表示缩放因子； 步骤3-6，对输入图像的全局特征进行归一化，然后引入均匀正则化项对图片的全局特征进行约束，具体方法如下： 其中，表示第三损失函数，表示归一化后的图片的全局特征向量，I表示单位矩阵，表示矩阵的弗罗贝尼乌斯范数； 步骤3-7，结合步骤3-5和步骤3-6中的第二损失函数和第三损失函数，得到总损失函数来训练学生网络。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人南京大学，其通讯地址为：210023 江苏省南京市栖霞区仙林大道163号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。