买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉清华大学申请的专利一种自注意力机制表征网络搜索方法、装置及设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN113673673B 。

龙图腾网通过国家知识产权局官网在2026-03-24发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202110813750.0，技术领域涉及：G06N3/045；该发明授权一种自注意力机制表征网络搜索方法、装置及设备是由朱文武;王鑫;关超宇设计研发完成，并于2021-07-19向国家知识产权局提交的专利申请。

本一种自注意力机制表征网络搜索方法、装置及设备在说明书摘要公布了：本申请实施例涉及数据处理技术领域，具体涉及一种自注意力机制表征网络搜索方法、装置及设备，旨在加速自注意力机制表征网络的设计过程，提高深度模型的设计效率和效果。所述方法包括：根据多种架构的自注意力机制表征网络构建一个自注意力机制表征网络搜索空间，所述自注意力机制表征网络搜索空间中包含多个子网络；通过所述多个子网络构建一个超网络；将待分析数据输入所述超网络中，通过所述超网络从所述自注意力机制表征网络搜索空间中搜索到对应的自注意力机制表征网络。

本发明授权一种自注意力机制表征网络搜索方法、装置及设备在权利要求书中公布了：1.一种自注意力机制表征网络搜索方法，其特征在于，所述方法包括： 根据多种架构的自注意力机制表征网络构建一个自注意力机制表征网络搜索空间，包括：根据所述多种架构的自注意力机制表征网络的结构特征，构建一个自注意力机制表征网络搜索空间，所述自注意力机制表征网络搜索空间中包含多个子网络； 通过所述多个子网络构建一个超网络，具体地，将所述多个子网络中上下文相同的参数设置为所述超网络中同一位置的参数；将所述多个子网络中上下文不同的参数设置为所述超网络中不同位置的参数； 收集针对语义识别任务的训练数据，将所述训练数据放入一个集合之中，得到所述语义识别任务对应的训练数据集； 将所述语义识别任务对应的训练数据集输入所述超网络中，对所述超网络进行训练，得到训练好的针对所述语义识别任务的超网络，在所述超网络的训练过程中，不断优化所述超网络的参数，当所述超网络参数调整至最优时，通过参数调整至最优的超网络从所述自注意力机制表征网络搜索空间中搜索到自注意力机制表征网络的效果也达到最优； 将针对语义识别任务的数据集输入所述针对所述语义识别任务的超网络中，通过所述针对所述语义识别任务的超网络从所述自注意力机制表征网络搜索空间中搜索到对应的自注意力机制表征网络，包括：所述超网络对所述语义识别任务的数据集进行计算，得到评分最高的TOPN个自注意力机制表征网络，将评分最高的一个自注意力机制表征网络确定为最适合对语义识别任务的数据集进行处理的自注意力机制表征网络。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人清华大学，其通讯地址为：100084 北京市海淀区清华园1号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。