浪潮电子信息产业股份有限公司侯鹏宇获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉浪潮电子信息产业股份有限公司申请的专利基于人工智能模型的运行方法、装置、设备、介质和产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120337997B 。
龙图腾网通过国家知识产权局官网在2025-10-21发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510805418.8,技术领域涉及:G06N3/0455;该发明授权基于人工智能模型的运行方法、装置、设备、介质和产品是由侯鹏宇;郝锐;王彦伟;李仁刚设计研发完成,并于2025-06-17向国家知识产权局提交的专利申请。
本基于人工智能模型的运行方法、装置、设备、介质和产品在说明书摘要公布了:本发明公开了一种基于人工智能模型的运行方法、装置、设备、介质和产品,涉及计算机技术领域,该方法包括:获取目标运算的源数据;其中,源数据包括第一矩阵和第二矩阵;判断目标运算是否为分块计算;若是,则确定第一矩阵的第一分块规模以及第二矩阵的第二分块规模;按照第一分块规模将第一矩阵分块存储为多个第一块矩阵,按照第二分块规模将第二矩阵分块存储为多个第二块矩阵;在执行目标运算的过程中,依次读取多个第一块矩阵和多个第二块矩阵,以实现目标运算得到目标运算结果。本发明提高了运算效率,节约了硬件资源。
本发明授权基于人工智能模型的运行方法、装置、设备、介质和产品在权利要求书中公布了:1.一种基于人工智能模型的运行方法,其特征在于,包括: 构建指令架构,以利用所述指令架构中的指令执行人工智能模型运行过程中的矩阵乘和或非线性函数运算;其中,所述指令架构包括直接内存访问指令,所述直接内存访问指令包括直接内存读指令和直接内存写指令,所述直接内存读指令包括跳变长度字段,用于指示分块读取数据时每行末尾需要跳过的数据长度,所述直接内存写指令包括跳变长度字段,用于指示分块写回数据时每行末尾需要跳过的数据长度; 获取目标运算的源数据;其中,所述源数据包括第一矩阵和第二矩阵; 判断所述目标运算是否为分块计算;若是,则确定所述第一矩阵的第一分块规模以及所述第二矩阵的第二分块规模; 按照所述第一分块规模将所述第一矩阵分块存储为多个第一块矩阵,按照所述第二分块规模将所述第二矩阵分块存储为多个第二块矩阵; 在执行所述目标运算的过程中,依次读取多个所述第一块矩阵和多个所述第二块矩阵,以实现目标运算得到目标运算结果; 其中,确定所述第一矩阵的第一分块规模以及所述第二矩阵的第二分块规模,包括: 根据人工智能模型使用的硬件加速器资源、块矩阵的读取次数、分块计算的计算量在多种候选分块方式中选择目标分块方式,并根据所述目标分块方式确定所述第一矩阵的第一分块规模以及所述第二矩阵的第二分块规模; 其中,根据人工智能模型使用的硬件加速器资源、块矩阵的读取次数、分块计算的计算量在多种候选分块方式中选择目标分块方式,包括: 当人工智能模型使用的硬件加速器支持读取数据与计算并行时,选择乘法计算量和累加计算量的总体计算量最小的候选分块方式作为目标分块方式; 当人工智能模型使用的硬件加速器不支持读取数据与计算并行时,在多种所述候选分块方式中选择第一候选分块方式和第二候选分块方式; 判断所述第一候选分块方式对应的乘法计算量和累加计算量的总体计算量与所述第二候选分块方式对应的乘法计算量和累加计算量的总体计算量之间的比值是否小于或等于预设值; 若是,则删除所述第一候选分块方式和所述第二候选分块方式中块矩阵的读取次数最大的候选分块方式;若否,则删除所述第一候选分块方式和所述第二候选分块方式中乘法计算量和累加计算量的总体计算量最大的候选分块方式; 重新执行所述在多种所述候选分块方式中选择第一候选分块方式和第二候选分块方式的步骤,直至剩余一个候选分块方式,将剩余的一个候选分块方式作为目标分块方式。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人浪潮电子信息产业股份有限公司,其通讯地址为:250014 山东省济南市高新区草山岭南路801号9层东侧;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励