买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京理工大学申请的专利一种基于弃权的抗标签噪声的对话状态追踪方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116628145B 。

龙图腾网通过国家知识产权局官网在2025-12-09发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202310301776.6，技术领域涉及：G06F16/3329；该发明授权一种基于弃权的抗标签噪声的对话状态追踪方法是由史树敏;张悉伦;苏日海设计研发完成，并于2023-03-27向国家知识产权局提交的专利申请。

本一种基于弃权的抗标签噪声的对话状态追踪方法在说明书摘要公布了：本发明涉及一种基于弃权的抗标签噪声的对话状态追踪方法，属于自然语言处理技术领域。本方法对数据集中的每条数据，采用预训练模型编码，通过基于弃权的槽位分类器判断槽位的预测方式，对于需要生成的槽位使用槽值生成器解码，需要推理的槽位使用槽值复制器解码。在槽位分类器中添加了一个特殊类别“弃权”，表示模型认为本次预测过于复杂或存在标签噪声，并放弃对该样本的预测和学习，通过修正后的损失函数来训练抗标签噪声的对话状态追踪模型。本方法提高了编码效和解码速度，有效降低了标注错误的影响，使模型在标签噪声较大的数据集中也可以保持较好的性能。

本发明授权一种基于弃权的抗标签噪声的对话状态追踪方法在权利要求书中公布了：1.一种基于弃权的抗标签噪声的对话状态追踪方法，其特征在于，包括以下步骤： 步骤1：数据预处理，将多领域对话数据集中的多轮对话，按对话轮次拆分成训练样本； 训练样本包括原始特征和标签两部分，其中，第t轮对话的样本的原始特征表示包括： 前一轮的对话话语Dt‑1、当前轮的对话话语Dt和上一轮的对话状态Bt‑1，样本的标签为当前轮对话状态Bt； 步骤2：特征编码；将原始特征连接为单一序列，输入预训练模型Bert，得到对话历史的、各个槽位的和整个样本的表示向量； 步骤3：基于弃权的槽位类别预测，将每一个槽位的表示向量输入弃权优化的多分类器，对其做类别预测； 其中，基于弃权的抗噪声体现在： 采用基于弃权的槽位类别分类器；为槽位类别添加了特殊取值“Abstain”，表示模型认为本次预测存在标签噪声，放弃对该标签的预测和学习；对于弃权的槽位，模型既不会预测槽值，也不会计入损失函数，但会受到弃权惩罚，该模块的损失函数Lopr为： 其中，opr表示预测的类别，pabs表示类别“Abstain”的预测概率；上式中，第一项是修正的交叉熵损失，对非弃权的预测概率进行了归一化处理，若pabs＝0则完全恢复为交叉熵损失；第二项为弃权惩罚，其权重α是超参数，用来控制惩罚程度； 步骤4：槽值解码；对于每一个槽位，根据其预测出的类别，选择不同的子模块来预测槽值；最后，用当前轮所有的槽位与槽值以覆盖的方式，更新对话状态； 对于槽位Sj，如果预测的类别为“None”或“Abstain”，则直接令当前轮槽值为[NULL]；若类别为“DontCare”，则令槽值为“don’t care”；若类别为“CarryOver”，则直接令槽值槽值生成的预测方法为： 该模块的结构为GRU解码器，对于一个类别为“Generate”的槽位Sj，设置GRU的初始隐状态初始输入为在GRU解码的k步，k≥1，将上一步的预测结果的词嵌入作为该步的输入计算第k步的隐状态如下式所示： 其中，表示第k‑1步的隐状态； 之后，利用软复制机制计算槽值中第k个词的概率分布具体如下： 其中，E是编码器的词嵌入矩阵，表示基于词汇的概率分布；Ht是编码器的输出，表示从对话上下文复制的概率分布；W1是可训练参数，“；”表示向量的拼接操作；最终的概率分布由与加权求和得到，α表示权重； 解码器循环生成槽值中的每一个词，直到解码器生成[EOS]标记，生成过程结束；槽值由解码器各步生成的词拼接而成； 槽值复制的预测方法为： 该模块的结构为注意力模块与多分类器；对于一个类别为Copy的槽位Sj，输入其表示向量和所有槽位的表示向量计算该槽位从其他槽位复制槽值的概率分布具体如下： 其中，Wcpy为可训练参数，dk表示向量的维度，表示所输入向量的转置，表示注意力模块的计算结果； 计算被复制的槽位的序号求得第t轮槽位Sj对应的槽值

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京理工大学，其通讯地址为：100081 北京市海淀区中关村南大街5号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。