安徽寒武纪信息科技有限公司请求不公布姓名获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉安徽寒武纪信息科技有限公司申请的专利神经网络稀疏化的装置、方法及相关产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN114444680B 。
龙图腾网通过国家知识产权局官网在2026-03-24发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202011563259.9,技术领域涉及:G06N3/082;该发明授权神经网络稀疏化的装置、方法及相关产品是由请求不公布姓名;请求不公布姓名设计研发完成,并于2020-12-25向国家知识产权局提交的专利申请。
本神经网络稀疏化的装置、方法及相关产品在说明书摘要公布了:本披露涉及对神经网络模型进行稀疏化训练的方法、装置、板卡及可读存储介质。本披露的数据处理装置可以实现为计算装置包括在组合处理装置中,该组合处理装置还可以包括接口装置和其他处理装置。该计算装置与其他处理装置进行交互,共同完成用户指定的计算操作。组合处理装置还可以包括存储装置,该存储装置分别与计算装置和其他处理装置连接,用于存储该计算装置和其他处理装置的数据。本披露实施例提供了与神经网络模型的稀疏化训练相关的方案,其可以提高神经网络模型的运算能力,提高机器的处理效率。
本发明授权神经网络稀疏化的装置、方法及相关产品在权利要求书中公布了:1.一种由数据处理装置执行的对应用于计算机视觉、语音场景下的神经网络模型进行稀疏化训练的方法,其中分别以计算机视觉、语音为输入数据,所述方法包括: 在正向传播中,基于掩码张量至少对神经网络参数进行稀疏化处理,以计算损失函数的值; 在反向传播中,基于所述损失函数计算神经元梯度和所述神经网络参数梯度;以及 基于所述神经网络参数梯度更新所述神经网络参数; 进一步,在反向传播中,基于稀疏化处理的神经网络参数来计算所述神经元梯度和所述神经网络参数梯度;以及 基于所述神经元梯度更新所述神经网络参数; 在反向传播中,基于反向掩码张量对所述神经网络参数进行稀疏化处理以得到所述稀疏化处理的神经网络参数; 更新所述神经网络参数包括更新未稀疏化处理的神经网络参数,基于更新的未稀疏化处理的神经网络参数生成所述掩码张量; 其中当所述掩码张量为二维张量时,所述方法按如下生成所述掩码张量: 预设特定数量的二维掩码张量,所述二维掩码张量的每个维度包括j个元素,其中k个元素为1,j-k个元素为0,jk; 基于每个预设的二维掩码张量分别对所述神经网络参数的指定两个维度进行掩码,以获得掩码后参数张量,其中进行乘积和计算以获得参数评估值包括:训练数据矩阵与掩码后参数矩阵相应元素相乘后取绝对值相加,以获得参数评估值;或者训练数据矩阵与掩码后参数矩阵相应元素取绝对值相乘后相加,以获得参数评估值; 基于每个掩码后参数张量,对所述神经网络的训练数据进行乘积和运算,以获得参数评估值;以及 选择产生所有参数评估值中最大的二维掩码张量作为所述掩码张量。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人安徽寒武纪信息科技有限公司,其通讯地址为:231283 安徽省合肥市高新区习友路3333号中国(合肥)国际智能语音产业园研发中心楼611-194室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励