Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 贵州电网有限责任公司;南方电网数字电网研究院有限公司徐长宝获国家专利权

贵州电网有限责任公司;南方电网数字电网研究院有限公司徐长宝获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉贵州电网有限责任公司;南方电网数字电网研究院有限公司申请的专利一种神经网络规则化位串行计算的压缩方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN113902109B

龙图腾网通过国家知识产权局官网在2025-10-03发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202111400489.8,技术领域涉及:G06N3/063;该发明授权一种神经网络规则化位串行计算的压缩方法及装置是由徐长宝;辛明勇;高吉普;王宇;刘卓毅;张历;习伟;姚浩;陈军健;于杨;陶伟设计研发完成,并于2021-11-24向国家知识产权局提交的专利申请。

一种神经网络规则化位串行计算的压缩方法及装置在说明书摘要公布了:本发明公开了一种神经网络规则化位串行计算的压缩方法,它包括:步骤1、对已训练的全精度神经网络模型中的权重和激活值进行量化;步骤2、对量化后的神经网络模型进行带有指导性的位稀疏训练;步骤3、对位稀疏训练的神经网络模型进行组结构化约束训练来解决权值中非零比特分布不均匀的问题;步骤4、将训练好的神经网络模型部署到带有结构化位串行乘法部件的神经网络加速器上;解决了现有技术位串行加速器虽然能提高权值位稀疏度,但位稀疏度在权值中的分布依旧不均匀,也存在加速器中运算单元负载不均衡的问题。

本发明授权一种神经网络规则化位串行计算的压缩方法及装置在权利要求书中公布了:1.一种神经网络规则化位串行计算的压缩方法,它包括: 步骤1、对已训练的全精度神经网络模型中的权重和激活值进行量化; 步骤2、对量化后的神经网络模型进行带有指导性的位稀疏训练; 步骤3、对位稀疏训练的神经网络模型进行组结构化约束训练来解决权值中非零比特分布不均匀的问题; 步骤4、将训练好的神经网络模型部署到带有结构化位串行乘法部件的神经网络加速器上; 其中,步骤2所述带有指导性的位稀疏训练的方法为:对传统神经网络梯度下降训练算法中反向传播后的梯度进行带有指导性的修改;通过判断梯度的正负得出权值的更新方向是增大还是减小,再通过比较当前权值的非零比特数和在更新方向上相邻权值的非零比特数预测该次更新可能导致的非零比特数的变化;如果该次更新的方向是朝向非零比特数变少的方向,则通过增大梯度来增强该次更新进行的力度;反之如果该次更新的方向朝向非零比特数增大,则减小梯度来削弱该次更新的力度;所述增大梯度或所述减小梯度为通过对梯度乘以一个比例因子,所述比例因子为更新前后非零比特数之差除以一个超参数,再加1,所述超参数为用于调整位稀疏度和神经网络分类精度的平衡。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人贵州电网有限责任公司;南方电网数字电网研究院有限公司,其通讯地址为:550002 贵州省贵阳市南明区滨河路17号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。