中电云数智科技有限公司师莎获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中电云数智科技有限公司申请的专利一种基于异构数据源的海量数据处理方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116414816B 。
龙图腾网通过国家知识产权局官网在2025-11-18发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310350188.1,技术领域涉及:G06F16/215;该发明授权一种基于异构数据源的海量数据处理方法及系统是由师莎;盛振宇;汪飞;王钢设计研发完成,并于2023-04-04向国家知识产权局提交的专利申请。
本一种基于异构数据源的海量数据处理方法及系统在说明书摘要公布了:本发明涉及一种基于异构数据源的海量数据处理方法及系统。本方法包括服务调用数据写入存储、查询服务调用数据、定时清理数据文件、通过shell脚本进行智能预警等步骤。本方法能够支持服务系统快速扩容,大幅提高接口并发量,支撑接口日亿级别的调用,可用于海量数据的存储及调用;且支持外部用户无感知的系统扩容,扩容期间接口可以正常调用。本方法采用多数据源引擎协作查询,支持跨数据源查询,适用于各种查询场景,提高了数据实时查询能力和多维分析能力,且本方法能够及时快速地智能清理无用的存储数据和文件,不需要运维手动巡查清理,减少了人工和机器成本。
本发明授权一种基于异构数据源的海量数据处理方法及系统在权利要求书中公布了:1.一种基于异构数据源的海量数据处理方法,其特征在于,所述方法包括: S1.服务调用数据写入存储;所述存储包括mongodb和Elasticsearch;所述服务调用数据包括API服务调用时间、apiId、应用名称、参数、耗时、出错信息、错误码信息记录json串;所述服务调用数据写入存储,包括: S11.将服务调用数据的具体信息异步写入mongodb,用于数据统计查询,并每天为mongodb新建collection; S12.将服务调用数据的具体信息异步写入Elasticsearch,用于用户查询,并每月为Elasticsearch滚动创建新索引; S13.每10秒钟对mongodb的数据,按年、月、日、小时的维度对接口调用量、平均耗时、失败次数、调用次数进行统计,并将统计数据保存到mysql统计表; S14.每年为mysql创建新数据表; S2.查询服务调用数据; S3.定时清理数据文件; S4.通过shell脚本进行智能预警,包括: S41.编写智能预警shell脚本,然后在homeopt创建xtyj.sh文件; S42.查询磁盘空间,若磁盘空间占用率达到85%,则向Kafka发送XT_YJ_TOPIC的消息,消息内容包括服务器ip、cpu及磁盘使用情况; S43.为智能预警shell脚本设置定时任务,每日1:00执行脚本; S44.后端代码监听Kafka对应主题XT_YJ_TOPIC的消息,接收消息之后,给系统管理员发送预警消息; S45.系统管理员收到预警消息后,检查服务器异常并进行相应的处理。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中电云数智科技有限公司,其通讯地址为:430058 湖北省武汉市蔡甸区经济技术开发区人工智能科技园N栋研发楼3层N3013号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励