人工智能与数字经济广东省实验室(深圳)秦红莲获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉人工智能与数字经济广东省实验室(深圳)申请的专利一种基于分区数据重排序的数据聚合优化方法、系统、终端及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120849443B 。
龙图腾网通过国家知识产权局官网在2025-11-21发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511359848.8,技术领域涉及:G06F16/242;该发明授权一种基于分区数据重排序的数据聚合优化方法、系统、终端及存储介质是由秦红莲;何玉林;叶璇;李旭;欧桂良设计研发完成,并于2025-09-23向国家知识产权局提交的专利申请。
本一种基于分区数据重排序的数据聚合优化方法、系统、终端及存储介质在说明书摘要公布了:本发明涉及数据聚合优化技术领域,公开了一种基于分区数据重排序的数据聚合优化方法、系统、终端及存储介质,所述方法包括:当不同节点在执行映射任务时,获取节点的所有中间文件,并进行分区处理得到多个分区数据,将所有分区数据进行合并处理得到多个目标中间文件;计算每个目标中间文件的目标分区数据大小得到目标分区计算结果,对所有目标中间文件进行重排序处理得到最终中间文件;获取每个节点的最终中间文件,将所有最终中间文件进行聚合处理得到数据聚合优化结果。本发明通过提前将生成的中间文件进行合并,并根据各分区数据的占比进行排序,使得在数据聚合阶段,各节点减少对中间文件的访问次数,以提高Spark分布式计算的效率。
本发明授权一种基于分区数据重排序的数据聚合优化方法、系统、终端及存储介质在权利要求书中公布了:1.一种基于分区数据重排序的数据聚合优化方法,其特征在于,所述基于分区数据重排序的数据聚合优化方法包括: 当不同节点在执行映射任务时,根据数据聚合优化指令获取所述节点的所有中间文件,对每个所述中间文件进行分区处理,得到多个分区数据,并将所有所述分区数据进行合并处理,得到多个目标中间文件; 对每个所述目标中间文件的目标分区数据进行数据大小计算,得到目标分区计算结果,根据所述目标分区计算结果对所有所述目标中间文件进行重排序处理,得到所述节点的最终中间文件; 所述对每个所述目标中间文件的目标分区数据进行数据大小计算,得到目标分区计算结果,具体包括: 对每个所述目标中间文件的目标分区数据进行数据大小计算,得到每个所述目标中间文件的数据值,并计算所有目标分区数据的总数据值; 根据所述总数据值对所有数据值进行占比计算,得到每个所述目标中间文件的分区数据占比值,并根据所有所述分区数据占比值得到目标分区计算结果; 所述根据所述目标分区计算结果对所有所述目标中间文件进行重排序处理,得到所述节点的最终中间文件,具体包括: 设定百分比阈值,将所述目标分区计算结果中所有分区数据占比值与所述百分比阈值进行大小比较,得到比较结果; 将所述比较结果中所有第一分区数据占比值进行大小排序,得到分区数据排序结果,并将所述比较结果中所有第二分区数据占比值设置于所述分区数据排序结果的预设位置,得到目标分区数据排序结果; 根据所述目标分区数据排序结果对所有所述目标中间文件进行合并处理,得到所述节点的最终中间文件; 其中,所述第一分区数据占比值为大于或等于所述百分比阈值的分区数据占比值,所述第二分区数据占比值为小于所述百分比阈值的分区数据占比值; 获取每个节点的最终中间文件,将所有所述节点的最终中间文件进行聚合处理,得到数据聚合优化结果。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人人工智能与数字经济广东省实验室(深圳),其通讯地址为:518107 广东省深圳市光明区玉塘街道科润大厦;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励