买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉天津大学申请的专利面向分布式大模型训练的多粒度语义树构建系统及其方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119494388B 。

龙图腾网通过国家知识产权局官网在2026-04-03发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411443957.3，技术领域涉及：G06N5/02；该发明授权面向分布式大模型训练的多粒度语义树构建系统及其方法是由王晓飞;丁美琳;赵云凤;高菲;张赫;仇超设计研发完成，并于2024-10-16向国家知识产权局提交的专利申请。

本面向分布式大模型训练的多粒度语义树构建系统及其方法在说明书摘要公布了：本发明公开面向分布式大模型训练的多粒度语义树构建系统及其方法，其中：所述边缘‑云信息融合空间将云服务器的样本和文本标签嵌入收集边缘设备的公共数据集信息进行多模态数据融合；所述模型信息交互空间将云服务器的样本和文本标签嵌入采用超图聚类算法获得全局初始簇中心Ol∈Rd×l；所述云服务器基于初始簇中心Ol构建语义空间所述云服务器将初始簇中心Ol和语义空间的文本嵌入分发到各个边缘设备构建边缘‑云协同交互空间；所述云服务器生成多粒度语义树；所述边缘‑云协同交互空间构建全局粒度生成模型，本发明在构建系统中协同生成合适的数据粒度，满足异构模型的匹配需求。

本发明授权面向分布式大模型训练的多粒度语义树构建系统及其方法在权利要求书中公布了：1.面向分布式大模型训练的多粒度语义树构建系统，所述构建系统包括云服务器和边缘设备；其特征在于：所述构建系统包括边缘-云信息融合空间、模型信息交互空间、边缘-云协同交互空间、多粒度语义树和全局粒度生成模型；其中： 所述构建系统由个边缘设备和个云服务器组成，分别记为和； 所述多粒度语义树采用分布式逐层生成不同的数据粒度，对应不同规模的模型构建层的树状结构；即，其中：第层树节点数记为； 所述边缘设备中边对于的每个边缘设备，即=作为本地样本数据集，其中：为样本个数，在第层粒度对应的文本标签集合记为=；所述边缘设备采用样本编码器生成样本嵌入= 所述边缘设备对于每个标签，利用文本编码器得到相应的文本嵌入=，其中：对于边缘； 所述云服务器为收集一个公共数据集，其中：包含来自每个边缘设备的代表性样本；表示中的样本个数；=作为样本嵌入的集合，=作为第层粒度标签的文本嵌入，其中：=表示多粒度语义树第层样本相应的文本标签； 所述边缘-云信息融合空间将云服务器的样本和文本标签嵌入和的形式收集边缘设备的公共数据集信息进行多模态数据融合； 所述模型信息交互空间将云服务器的样本和文本标签嵌入和采用超图聚类算法获得全局初始簇中心；包括： 基于样本嵌入通过将与其最近的top-个邻居顶点连接，得到样本超边， 文本超边，通过在当前输入第层数据粒度上基于文本嵌入的相似性将与其top-最近的邻居顶点连接；即：; 按照如下公式分别对和的权值进行归一化；给定关联矩阵，定义的度为: 其中，平衡样本和文本超边权重； 按照如下公式构建超图的归一化拉普拉斯矩阵为: 其中：令和分别表示顶点度和超边度的对角矩阵；表示超边权重的对角矩阵； 从第层聚类到第+1层，在Λ上使用谱聚类；并计算特征向量对应于的个最小非零特征值； 这些特征向量形成了谱嵌入矩阵，表示超图结构的低维编码； 对应用K-means聚类，得到第层的个初始簇，记为 所述云服务器基于初始簇中心在WordNet中筛选词语构建语义空间 所述云服务器将初始簇中心和语义空间的文本嵌入分发到各个边缘设备构建边缘-云协同交互空间；其中： 所述云服务器将初始簇中心下发给各个边缘设备用于初始化各个边缘设备的粒度生成模型；包括： 在第层标签的基础上构建第层标签，利用当前输入第层的文本标签获得样本描述符； 通过在WordNet中搜索同义词和上位词来扩展这个集合，创建一个初始语义空间 通过初始聚类中心的基础上利用Faiss库完善基于为每个聚类中心选择最的个名词，即: 其中：sim是基于欧几里得距离的相似度度量;表示的语义嵌入; 将基于这些最近邻居词汇的并集形成第层的最终语义空间，即，其中:为从WordNet中选择的名词短语的总数; 对于每一个名词构建一个描述性句子模板“aphotoofa”，获得语义嵌入； 所述边缘-云协同交互空间将语义空间的文本嵌入下发给各个边缘设备用于指导后续边缘设备本地学习训练构建全局粒度生成模型，即： : 其中：它将标签从第层粒度映射到第层；表示边缘设备上的样本嵌入，表示边缘设备上样本的第层文本标签嵌入，是边缘设备上样本的第层文本标签；即为边缘设备上部署构建多粒度语义树的本地粒度生成模型参数；其中： 所述边缘-云协同交互空间将文本嵌入下发给各个边缘设备用于指导后续边缘设备本地学习训练构建全局粒度生成模型过程；包括： 联合平衡正则化的一致性损失训练本地的多粒度语义树； 采用FL框架共同训练多粒度语义树的上一层； 边缘设备按照如下损失函数对本地优化其粒度生成模型中参数并将其传输到云服务器； 其中：为学习率，在每个全局迭代结束时，边缘设备将其本地模型参数上传到云服务器； 云服务器使用FedAvg方法聚合这些参数经过轮迭代构建全局的粒度生成模型,并更新器模型参数； 其中：为边缘设备上的数据个数，为所有边缘设备上的数据总数； 所述全局粒度生成模型通过以第一层数据作为输入，最终将第层数据映射到第1层标签，即实现异构边缘设备模型交互。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人天津大学，其通讯地址为：300072 天津市南开区卫津路92号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。