Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
专利交易 商标交易 积分商城 国际服务 IP管家助手 科技果 科技人才 会员权益 需求市场 关于龙图腾 更多
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 谷歌有限责任公司杰克·刘获国家专利权

谷歌有限责任公司杰克·刘获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉谷歌有限责任公司申请的专利用于神经网络加速器的参数高速缓存获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN114424174B

龙图腾网通过国家知识产权局官网在2026-04-21发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:201980100459.X,技术领域涉及:G06N3/063;该发明授权用于神经网络加速器的参数高速缓存是由杰克·刘;禹同爀;贾森·钟·奎·朴;拉克希特·阿肖克设计研发完成,并于2019-12-18向国家知识产权局提交的专利申请。

用于神经网络加速器的参数高速缓存在说明书摘要公布了:包括在计算机存储介质上编码的计算机程序的方法和系统。在一个方面,一种方法包括:获得指定要部署在神经网络硬件加速器上的一个或多个神经网络的数据,所述一个或多个神经网络中的每一个具有相应的参数集合,并且神经网络硬件加速器具有一个或多个存储器,所述一个或多个存储器具有存储器容量;确定将在由神经网络硬件加速器处理所述一个或多个神经网络中的任何一个神经网络期间的任何一个时间处所使用的所述存储器容量的最大量;识别所述一个或多个神经网络的参数子集,所述参数子集所消耗的存储器量小于存储器容量与所确定的存储器容量的最大量之间的差;以及存储所识别的参数子集。

本发明授权用于神经网络加速器的参数高速缓存在权利要求书中公布了:1.一种用于参数高速缓存的方法,包括: 获得指定要部署在神经网络硬件加速器上的一个或多个神经网络层的数据,所述一个或多个神经网络层中的每一个具有相应的参数集合,以及所述神经网络硬件加速器包括参数存储器和多个硬件计算单元,所述多个硬件计算单元中的每一个是被配置为执行神经网络层计算的处理元件,并且每个硬件计算单元包括一个或多个本地存储器,所述一个或多个本地存储器具有存储器容量; 将所述一个或多个参数集合存储在所述参数存储器中; 通过以下操作来确定将在由所述神经网络硬件加速器处理所述一个或多个神经网络层中的任何一个神经网络层期间的任何一个时间处使用的所述存储器容量的最大量:确定在所述处理期间所述多个硬件计算单元中的每一个的本地存储器的可用容量的量; 识别所述一个或多个神经网络层的参数子集,所述参数子集所消耗的存储器量小于所述存储器容量与所确定的所述存储器容量的最大量之间的差; 将所识别的参数子集存储在所述神经网络硬件加速器的所述一个或多个本地存储器中的至少一个中,其中将所识别的参数子集从所述参数存储器传送到所述一个或多个本地存储器;以及 在存储所识别的参数子集之后,使得所述神经网络硬件加速器执行需要对应的所别的参数子集的所述一个或多个神经网络层的处理; 其中,所述神经网络硬件加速器的所述一个或多个本地存储器提供比存储所述神经网络层的参数的所述参数存储器更高的带宽;并且 其中,所述多个硬件计算单元中的每一个进一步被配置为执行操作,所述操作包括: 由相应的硬件计算单元的处理器执行来自所述神经网络硬件加速器的多个指令;并且,选择性地执行: 访问所述相应的硬件计算单元的一个或多个本地存储器,以检索所识别的参数子集;以及 通过环形总线,将所识别的参数子集发送到所述神经网络硬件加速器的所述多个硬件计算单元中的其它硬件计算单元的一个或多个本地存储器;或者执行: 在相应的硬件计算单元的一个或多个本地存储器中存储通过所述环形总线接收的、来自一个或多个其他硬件计算单元的一个或多个本地存储器的所识别的参数子集,以供由所述相应的硬件计算单元使用所识别的参数子集执行神经网络计算。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人谷歌有限责任公司,其通讯地址为:美国加利福尼亚州;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。