买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉湖北大学申请的专利一种将深度学习应用于中文分词的方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN111209749B 。

龙图腾网通过国家知识产权局官网在2025-11-11发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202010000500.0，技术领域涉及：G06F40/284；该发明授权一种将深度学习应用于中文分词的方法是由曾诚;张敏;温超东;任俊伟;谭道强;盛潇设计研发完成，并于2020-01-02向国家知识产权局提交的专利申请。

本一种将深度学习应用于中文分词的方法在说明书摘要公布了：本发明属于计算机语言处理技术领域，尤其是一种将深度学习应用于中文分词的方法，针对循环神经网络进行中文分词时复杂性高，分词速度慢且容易出现长期依赖的问题，现提出以下方案，包括如下步骤，先进行数据预处理，再构建用于模型输入的字典，最后使用模型进行训练，数据预处理包括借助文中原有的标点符号，段落分隔符等具有分割作用的符号对文档进行切分，提取句子的字特征。本发明通过Universal‑Transformer和条件随机场的分词方法，运用了BPEmd、Universal‑Transformer和条件随机场结合的方式进行中文分词，在充分利用多种不同算法各自的优势，并且通过庞大的训练语料数据集合不断更新迭代模型的参数，依赖于模型的强大学习能力，使得中文分词结果能够更加的准确。

本发明授权一种将深度学习应用于中文分词的方法在权利要求书中公布了：1.一种将深度学习应用于中文分词的方法，其特征在于，包括如下步骤： S1：数据预处理，借助文中原有的标点符号，段落分隔符具有分割作用的符号对文档进行切分，提取句子的字特征，得到第一数据； S2：构建用于模型输入的字典，字典包括源字典src_dict和目标字典tgt_dict两部分，将第一数据进一步处理构建用于模型输入的字典，得到第二数据； S3：使用模型进行训练，将src_dict和tgt_dict输入到训练模型中，使用BPEmd模型对预处理的数据进行字嵌入预训练，第一数据作为Universal-Transformer的输入，得到维度增加后的特征向量，第二数据作为CRF层的输入，得到目标字向量模型； 所述S3中使用模型进行训练，得到训练的模型包括： S31：使用BPEmd模型对预处理的数据进行字嵌入预训练，使字向量的字特征维度增加，得到维度增加后的特征向量； S32：所述S1中的第一数据作为Universal-Transformer的输入，模型编码某个字符，与序列中其他字符进行运算，得到该字符与序列中左右字符的句法和语义关系编码，得到提取了字符上下文关系特征的向量； S33：所述S2中的第二数据作为CRF层的输入，对语料数据的每个字向量的各种词位置分类的概率根据上下文信息进行修订，得到目标字向量模型； 所述S32中，Universal-Transformer模型输入一个字符序列，由编码器和解码器提取字符之间的语义语法特征后，根据任务类型输出另一个字符序列，从编码器输入的句子首先会经过一个自注意力层，这层帮助编码器在对每个字符编码时关注输入序列的其他字符，自注意力层的输出会传递到前馈神经网络中，前馈网络是一个Transition层，通过共享权重的方法循环计算，这里的循环是指深度循环，每个位置的单词对应的前馈神经网络都完全一样，编码器的输出作为解码器的输入，解码器中也有编码器的自注意力层和前馈层，这两个层之间还有一个注意力层，用来关注输入序列的相关部分，对于序列a,b,c,d，先经过embedding表示成,，在经过一层attention+transition表示成,，如果是循环神经网络，要先计算，再计算和，而transformer的自注意力层可以同时计算,，再计算t+1的，这样，每个self-attention+transition的输出可以表示为： ； ； 这里Transitionfunction可以和之前一样是全连接层，也可以是卷积层； Universal-Transformer的位置嵌入考虑字符的位置和时间维度，每一次循环都会重新做一次坐标嵌入； 所述S33中，把输出数据输入到CRF模型中，对中文句子的每个字向量的各种词位置分类的概率根据上下文信息进行修订，得到目标模型，CRF使得标记序列的每个元素依赖于观察序列中相互联系的特征，而且模型可以基于特征的重要性来赋予各特征不同的权重，模型中可以加入一些约束来保证最终预测结果是有效的，这些约束可以在训练数据时被CRF自动学习得到，给定观察序列X，如果目标序列Y的条件概率分布pY|X满足马尔科夫性： ； 那么pY|X为线性链条条件随机场，在标注问题中，对于输入的观测序列，某个特定的状态序列的概率定义为： ； 其中，为转移函数,表示观察序列在其标注序列在和之间的转移概率，为状态函数，表示对于观察序列X第i位置的标记为y:的概率，、分别对应着相应函数的权重，需要从训练样本中估计出来。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人湖北大学，其通讯地址为：430000 湖北省武汉市武昌区友谊大道368号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。