0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

华为云GaussDB助力统计现代化改革

华为数字中国 来源:华为数字中国 2025-02-12 10:59 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

2023年8月至2024年5月,华为云GaussDB助力国家统计局顺利完成第五次全国经济普查(简称“五经普”)单位清查和普查登记数据采集处理工作。在此期间,全国200多万名普查员通过手持终端设备,依托华为云GaussDB对全国范围内的1亿多普查对象进行普查数据采集与处理,为国家宏观经济决策提供了重要基础数据。

千挑万选,落定GaussDB

打造全局“一朵云”

“五经普”是一项重要的国情国力调查,肩负着摸清我国经济家底、推动高质量发展的重要任务。国家统计局历时三年建设的统计云技术平台,作为统计云建设工程的关键支撑,在统计数据的采集、审核、验收及汇总等关键业务场景中,首次在“五经普”实现了大规模的应用。

“五经普”在数据采集方式上进行了革新,通过部署在统计云技术平台上的国家统计局数据采集处理系统直接进行数据填报,在业务高并发、海量数据处理和数据实时性、准确性、一致性等方面,对应用系统提出了更高要求。

作为支撑统计云业务运行的重要基础设施,选择一款合适的数据库至关重要,也并非易事。经过深度市场调研和分析研究,华为云GaussDB在可用性、性能和迁移等方面,能够较好地满足国家统计局业务工作要求。

此外,华为公司与国家统计局有多年合作基础,华为终端、网络、服务器和存储产品已在第三次全国农业普查、第四次全国经济普查、第七次全国人口普查等数据采集处理场景中得到应用。随着GaussDB在统计云工程中的成功应用,更是实现了全局“一朵云”的架构,推动了统计现代化改革发展。

“五经普”多业务场景下

细数GaussDB面临的诸多挑战

“五经普”采集模式的创新与落地,离不开统计云技术平台的强大资源支撑、多样化的功能调用以及丰富的实践经验。其中,华为云GaussDB数据实时汇集与分析能力,更是支撑统计云平台实现了“一网通办,一云统管”。在“五经普”业务保障过程中,GaussDB主要面临两大挑战:

(一)采集高峰期业务高并发导致系统压力大。“五经普”数据采集处理系统需确保全国200多万普查员、168万“一套表”单位(规模企业)、26万统计机构人员用户能够高效、准确地填报和处理1.2亿普查对象的普查数据。

(二)“五经普”业务逻辑要求在同一段时间内完成数据的填报(写入)和审核验收(读取)操作。“五经普”普查登记数据采集时间是2024年1月1日至4月30日,在此期间,各级统计机构用户需要同步开展数据审核、验收和汇总。系统运行时,压力主要集中在上午9点至12点和下午2点至5点。在实现数据的快速读写(业务的增删改查SQL语句量约为每秒百万条)的同时,系统还需具备强大的数据分析能力,能够完成上万条数据的汇总分析任务,以确保数据的实时性、准确性和一致性。

华为云GaussDB提供更优解决方案

有效承载业务压力

作为统计云技术平台的有力基础支撑,GaussDB通过分布式技术架构部署与优化策略,确保了数据采集任务的高效执行与精确完成,为统计云技术平台的稳定运行与高效运作提供强力支持。

1. GaussDB分布式部署,顶住五经普业务高峰压力。

一是“五经普”数据采集处理系统采用GaussDB分布式多节点(15节点),单库容量最大支撑达到100TB,前期通过在线扩容,实现对业务的最小化影响。

二是借助GaussDB分布式执行框架,根据业务SQL生成最优执行计划,并利用并行执行等技术,使得每秒事务处理数(TPS)轻松突破10万大关,显著提升分布式执行效率。

三是GaussDB多集群节点、线程池和连接池等技术能力,在高并发场景下,可实现毫秒级查询响应,有效应对业务高峰。同时,针对分布式数据库开展了一系列优化,共包括134类慢SQL,有效地降低数据库的运行压力,保障系统的稳定运行。

2. DRS数据实时同步,“两”库并行,保障数据高效入库和实时分析。

华为云GaussDB采用采集库与汇总库分离策略,由采集库存储采集数据,然后通过数据复制服务(DRS)将采集数据快捷汇聚到汇总库,以便更加高效的执行汇总任务。在此过程中,DRS支持将其他数据库迁移过来的全量数据,一次性同步至GaussDB中。同时,通过实时解析源库日志,将解析到的增量数据转换为DRS内存存储格式,达到100MB/s的数据处理速度,确保绝大多数情况下的秒级响应时延,从而满足业务对读写分离的需求。

GaussDB

助力谱写统计现代化改革新篇章

GaussDB高可用、高性能、易迁移等技术能力,保障了统计云圆满完成统计业务工作,为上层统计核心业务系统提供合规保障,确保统计业务的连续性。在“五经普”单位清查数据合并场景中,数据处理耗时从原来的18分钟缩短至2分钟;在“五经普”普查登记数据采集场景中,高峰期单个节点的并发量突破了12000TPS,成功支撑超过30万用户同时在线,每秒处理业务量超过10万笔,峰值查询量达每秒120万次,采集响应时延低于20毫秒。

此外,在完成“五经普”的数据采集任务后,GaussDB还支撑了国家统计局核心业务系统——联网直报系统,为数据的实时上报、高效处理和深度分析提供了坚实的技术支撑。

统计云平台创新成果在中国统计信息化建设史上开创了先河,实现了“多个首次”,全面承载国家统计局的核心业务系统,以数字化转型驱动统计现代化改革。未来,华为云GaussDB将与国家统计局继续携手,共同推动统计高质量发展,以统计现代化更好服务中国式现代化。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 华为
    +关注

    关注

    218

    文章

    35783

    浏览量

    260723
  • 数字化
    +关注

    关注

    8

    文章

    10312

    浏览量

    66544

原文标题:华为云GaussDB助力国家统计局,开启统计现代化改革新篇章

文章出处:【微信号:HWS_yunfuwu,微信公众号:华为数字中国】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    里物里定位信标助力打造现代化智慧医院

    在某市第一中心医院,传统的“寻路难”问题正在成为历史。为打造现代化智慧医院,该院率先引进里物里智能硬件,构建覆盖全院的室内导航定位系统,以空间数字重构就医路径,显著提升患者就医便捷性。
    的头像 发表于 10-11 16:52 1160次阅读

    软通动力携手华为加速行业应用智能进化

    华为全联接大会2025期间,华为联合应用现代化产业联盟举办“应用现代化,加速行业应用智能进化”论坛,并携手中国软件行业协会、中国信息通信研
    的头像 发表于 09-28 17:46 925次阅读

    NetApp助力对象存储现代化,提升速度、可扩展性和安全性

    计。最新版本的StorageGRID将引入新功能,旨在推进人工智能计划、提高数据安全性并实现企业数据基础设施的现代化。 无论企业是处于数据湖现代化的早期阶段,还是正在试验高级人工智能应用程序,他们都需要管理并存储激增的非结构
    的头像 发表于 09-11 10:41 324次阅读

    微型气象站系统:为智慧气象建设和应急管理体系现代化提供关键技术支撑

    微型气象站系统:为智慧气象建设和应急管理体系现代化提供关键技术支撑【WX-PQX6】不仅简化了传统气象监测流程、降低了成本,更通过平台数据管理(支持多设备登录、曲线分析、数据导出)和远程监控功能,推动气象服务向智能、移动
    的头像 发表于 08-13 14:47 507次阅读
    微型气象站系统:为智慧气象建设和应急管理体系<b class='flag-5'>现代化</b>提供关键技术支撑

    现代化智慧农业四情监测设备方案

    现代化智慧农业四情监测设备方案 柏峰【BF-NYSQ】强农固本,为推进中国式现代化提供基础支撑,农稳社稷,粮安天下。强化耕地保护和质量提升、推进农业科技力量,全方位夯实国家粮食安全根基,坚持产量产能、生产生态、增产增收一起抓,切实提高农业综合效益和竞争力。
    的头像 发表于 08-01 10:11 591次阅读
    <b class='flag-5'>现代化</b>智慧农业四情监测设备方案

    中科创达推出Java应用现代化解决方案

    在数字转型浪潮席卷千行百业的当下,企业应用现代化已成为突破增长瓶颈、重塑核心竞争力的关键路径。在近日举办的亚马逊科技中国峰会上,全球领先的智能操作系统及端侧智能产品和技术提供商中科创达,凭借十
    的头像 发表于 06-28 10:34 1149次阅读

    软通动力入选应用全生命周期智能白皮书案例集

    华为开发者大会2025期间,华为联合应用现代化产业联盟,以“应用现代化,让智能触手可及”为主题举办应用
    的头像 发表于 06-27 10:16 886次阅读
    软通动力入选应用全生命周期智能<b class='flag-5'>化</b>白皮书案例集

    广电计量助力广州现代化产业体系高质量发展

    总经理于莉莉出席活动并作主题演讲,分享检验检测助力企业数智融合发展的经验,广电计量入选广州市首批两业融合优秀案例,助力广州现代化产业体系高质量发展。
    的头像 发表于 06-12 17:11 753次阅读

    中软国际中标天津环湖医院智慧园区设施项目

    近日,中软国际联合华为成功中标天津环湖医院(以下简称:环湖医院)智慧园区设施项目。作为中软国际联合华为突破的首个设施项目,该项目旨在通过智慧医院运营管理平台及AI节能算法模型,帮助
    的头像 发表于 04-07 17:29 1013次阅读

    智慧养殖物联网系统助力打造现代化养殖业

    ,宛如一道曙光,为现代化养殖业带来了新的发展契机。 智慧养殖物联网系统融合了先进的物联网、大数据、计算等技术,对传统养殖模式进行了全方位的革新。以养猪场为例,在猪舍内安装了各种传感器与环控PLC,如温湿度传感器
    的头像 发表于 03-10 10:23 736次阅读
    智慧养殖物联网系统<b class='flag-5'>助力</b>打造<b class='flag-5'>现代化</b>养殖业

    DXC实现全球IT基础设施现代化

    -Skanska选择DXC实现全球IT基础设施现代化 弗吉尼亚州阿什布恩2025年2月26日 /美通社/ -- 全球领先的《财富》世界500强技术服务提供商DXC Technology
    的头像 发表于 02-26 11:41 534次阅读
    DXC实现全球IT基础设施<b class='flag-5'>现代化</b>

    当路灯开始“思考”:现代化智慧路灯的奇妙变革灯杆屏 智慧灯杆屏

    当路灯开始“思考”:现代化智慧路灯的奇妙变革灯杆屏 智慧灯杆屏
    的头像 发表于 02-19 14:08 827次阅读
    当路灯开始“思考”:<b class='flag-5'>现代化</b>智慧路灯的奇妙变革灯杆屏 智慧灯杆屏

    华为 GaussDB 助力国家统计局, 开启统计现代化改革新篇章

    2023 年 8 月至 2024 年 5 月,华为 GaussDB 助力国家统计局顺利完成第五次全国经济普查(简称“五经普”)单位清查和普
    的头像 发表于 02-12 16:49 2941次阅读

    华为Stack助力统计信息智能升级

    经过充分调研和考察,华为Stack在平台、数据库、大数据的全栈自主创新能力和在政务领域的持续积淀,获得了国家统计局的认可。国家统计局联合
    的头像 发表于 02-07 10:22 807次阅读

    南方智能构建现代化水库运行管理矩阵

    南方测绘集团旗下南方智能积极落实水利部构建现代化水库运行管理矩阵工作部署,以水库运行管理实际业务需求为导向,利用数字孪生、物联网、大数据、计算等技术,深度融合水库现有各类监测数据、运行台账等数据
    的头像 发表于 12-13 10:36 1086次阅读