0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

大促秒杀更顺滑|忆联携手南大通用,提供数据密集型存储新范式

UnionMemory忆联 来源:未知 2023-12-18 18:20 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

双十二的结束,意味着2023年的所有大促已落下帷幕。双十一全网11386亿元的销售额背后是消费的狂欢,更是一场场数据洪峰,单天猫平台在双十一期间累计访问用户数就已超8亿,数据访问的压力不言而喻。


面对瞬时流量高并发、海量数据查询等应用场景,固态硬盘凭借其高吞吐量、低时延等特征逐渐成为大数据时代下数据存储的重要载体,是当前本地部署的数据仓库产品重要搭载硬件,可满足电商大促场景下大规模数据的存储和查询需求。


为更好应对含电商在内的数据密集型行业对高性能、高可靠存储的要求,忆联特联合国内大数据仓储的佼佼者——南大通用(下称:GBase)共同探索大数据时代下数字化转型存储新方案


一、GBase 8a MPP Cluster简介

南大通用大规模分布式并行数据库集群系统(简称GBase 8a MPP Cluster),是在GBase 8a系列存储数据库基础上开发的一款Shared Nothing架构的分布式并行数据库集群,具备高性能、高可用、高扩展等特性,可为各种规模数据管理提供高性价比的通用计算平台,广泛用于支撑各类数据仓库系统、BI系统和决策支持系统。

图1:GBase 8a MPP Cluster技术架构图


GBase 8a MPP Cluster采用MPP+Shared Nothing的分布式联邦架构,节点间通过TCP/IP网络进行通信,每个节点采用本地磁盘来存储数据。GBase 8a MPP Cluster系统中的每一个节点都是相对独立的、自给的,整个系统具有非常强的扩展性,可从几个节点扩展到上百节点,满足业务规模增长的要求。


二、忆联在GBase 8a MPP方案下的验证


1

验证环境

本次验证硬件配置:

本次验证软件配置:

本次验证组网规划:

图2:本次GBase 8a MPP组网规划架构图


2

验证方法

步骤1:将6块SAS UM511a配置Raid5。

步骤2:创建数据库和表使用TPC-H工具评估数据库分析处理能力,需要提前创建数据库和TPC-H内置的8张表;使用TPC-DS工具评估数据库分析处理能力,提前创建数据库和TPC-DS内置的25张表。

步骤3:参数调优根据GBase建议进行相关参数调优。

步骤4:数据生成TCH-H通过dbgen工具可以通过设置参数生成所需的测试数据,命令参数为/dbgen -C 10 -S 1 -s 3000 –vf;TPC-DS通过dsdgen工具可以通过设置参数生成所需的测试数据,命令参数为./dsdgen -scale 3000 -dir testdata -force -parallel 10 -child 1。

步骤5:数据加载数据导入时,在GBASE集群本地节点搭建FTP服务器,通过FTP加载数据。当一个表包含多个数据文件时,将单表的多个数据文件集成一个导入语句中,以单表为粒度分别加载测试数据至8张数据库表中。

步骤6:SQL执行独立的客户端,通过业务平面网络与GBase集群通信,使用gccli工具执行TPC-H 22个SQL用例,

参考命令如下:

/home/GBase/gccli_install/gcluster/server/bin/gccli -h 10.28.100.38 -uroot -Dtpch -vvv < query_1.sql。


3

验证结果

本次在GBase 8a MPP场景下验证结果如下:

①、忆联SAS SSD在Raid逻辑卷带宽性能测试下的表现:

图3:忆联SAS盘在Raid逻辑卷带宽性能测试下的表现


在本次测试中,将6个SAS SSD配置Raid5,12块SATA配置Raid50,在Server主机使用FIO测试工具进行128KB顺序读写带宽性能压测。从图3结果表现可知,SAS SSD读写带宽更优,读带宽比SATA有19.6%左右提升,写带宽提升34%左右,展现了SAS SSD在Raid逻辑卷带宽下的绝对优势,可为高并发的业务场景提供稳定、顺畅的数据服务体验。


②、忆联SAS SSD在单盘故障降级&重构读性能下的表现:

图4:忆联SAS SSD在单盘故障降级&重构读性能下的表现


单盘降级读性能是指RAID组在单盘故障或拔出情况下的RAID组逻辑卷读业务性能,重构性能是指单盘故障后,RAID同时进行热备盘数据重构和业务下发时的业务侧性能。本次通过将6块忆联SAS SSD配置Raid5后,在一块SSD故障条件下进行测试。


如图4所示,不管是在单盘降级读性能还是在重构读带宽条件下,SAS盘的表现都优于SATA,单盘降级读性能优于SATA 22.7%左右,重构读带宽性能上比SATA最大有38.4%左右的提升,满足在各种复杂场景下业务不中断、数据不丢失的超高可用性要求。


③、忆联SAS SSD在TPC-DS场景下的表现:

图5:TPC-DS场景下忆联SAS SSD的表现


TPC-DS测试是通过FTP协议加载数据到GBase数据库表。从图5可见,在相同物理硬件环境下,SAS SSD不管是在数据导入还是在SQL用例执行时间上所用时间都略低于SATA SSD,具备一定时间优势,通过降低系统延迟,提供更快的数据访问速度来提升用户体验。


④、忆联SAS SSD在TCP-H场景下的表现

图6:TPC-H场景下忆联SAS SSD的表现


TPC-H测试是通过FTP协议加载数据到GBase数据库表。图6展现了SAS SSD以及SATA SSD在TPC-H测试下的表现,其中SAS SSD总用时略优于SATA SSD,数据导入时间优于SATA约6%,对SQL用例执行时间上相比 SATA SSD降低了3%左右,可为业务系统提供快速、可靠的决策支持服务。


Union Memory


总结:本次验证充分体现了忆联SAS SSD在GBase 8a MPP场景下的性能优势,可有效支持业务高效开展,具备单盘带宽更高,盘故障重构、降级性能更优等特点,不仅可以帮助企业节约硬件采购成本,也可帮助互联网数据中心、运营商解决海量数据下的大数据存储和计算问题,高效处理海量结构化数据。


忆联深耕固态硬盘领域多年,已发布多款高性能、高可靠产品,具备应对复杂的业务环境和数据库挑战的能力,可满足行业用户海量数据处理需求。未来,忆联将持续联合GBase共同打造数字化转型背景下的存储新方案。



相关阅读推荐

国庆特辑|忆联SSD通过极端压力中子实验,为数字中国建设提质增速

多方位优化!忆联分布式数据库存储解决方案,助力MySQL实现高性能、低时延

忆联SR-IOV解决方案:助力云数据中心节能提效,向“绿”而行


长按识别关注更多忆联资讯


原文标题:大促秒杀更顺滑|忆联携手南大通用,提供数据密集型存储新范式

文章出处:【微信公众号:UnionMemory忆联】欢迎添加关注!文章转载请注明出处。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储
    +关注

    关注

    13

    文章

    4700

    浏览量

    89582
  • SSD
    SSD
    +关注

    关注

    21

    文章

    3061

    浏览量

    121803

原文标题:大促秒杀更顺滑|忆联携手南大通用,提供数据密集型存储新范式

文章出处:【微信号:UnionMemory忆联,微信公众号:UnionMemory忆联】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    首款商用消费级QLC SSD AE531深度评测

    近日,深耕存储及硬件领域的专业评测机构PCEVA对首款QLC商用消费级SSD AE531展开了深度评测。结果显示,AE531在性能以及各项测试上的成绩均超越同级表现。同时,务实的SLC缓存策略、跨平台兼容性与60℃满载无降速
    的头像 发表于 11-07 11:02 1611次阅读
    <b class='flag-5'>忆</b><b class='flag-5'>联</b>首款商用消费级QLC SSD AE531深度评测

    首款消费级QLC SSD AE531重磅发布

    近日,正式推出旗下首款面向消费级市场的QLC SSD产品—AE531。该产品基于QLC NAND介质打造,以卓越的生态兼容性和全生命周期成本优化为核心竞争力,为消费级PC、笔记本电脑等终端设备提供革新型
    的头像 发表于 09-26 17:26 942次阅读

    曙光存储FlashNexus获大通用、TiDB互认证

    近日,曙光存储FlashNexus成功完成与大通用GBase数据库、TiDB数据库的互认证测试,标志着国产高端
    的头像 发表于 08-25 11:45 776次阅读

    新一代eMMC 5.1产品重塑智能终端存储体验

    面对智能终端超高清化、强交互性演进带来的存储容量与能效双重升级需求,新一代eMMC 5.1产品应时而生,凭借三大核心竞争力精准解决市场痛点。
    的头像 发表于 08-19 10:36 1919次阅读
    <b class='flag-5'>忆</b><b class='flag-5'>联</b>新一代eMMC 5.1产品重塑智能终端<b class='flag-5'>存储</b>体验

    英特尔Benchmark验证!UH812a问鼎PCIe Gen5企业级存储性能巅峰

    达3538K,延迟改善43%,多盘扩展性能线性增长至230GB/s。通过全场景验证,UH812a展现了卓越的稳定性与扩展性,标志着与英特尔在数据中心存储领域的深度合作成果,将加速高性能存储
    的头像 发表于 07-07 16:33 582次阅读
    英特尔Benchmark验证!<b class='flag-5'>忆</b><b class='flag-5'>联</b>UH812a问鼎PCIe Gen5企业级<b class='flag-5'>存储</b>性能巅峰

    Docker+MySQL 流控方案:打造安全高效存储底座,释放 AI 极致性能

    探讨基于Docker部署的MySQL数据库在AI应用中的关键作用。通过PCIe5.0企业级SSD(UH812a)实测验证,展示了Namespace技术与QoS优化策略如何实现存储
    的头像 发表于 06-26 13:53 340次阅读
    <b class='flag-5'>忆</b><b class='flag-5'>联</b> Docker+MySQL 流控方案:打造安全高效<b class='flag-5'>存储</b>底座,释放 AI 极致性能

    I/O密集型任务开发指导

    使用异步并发可以解决单次I/O任务阻塞的问题,但是如果遇到I/O密集型任务,同样会阻塞线程中其它任务的执行,这时需要使用多线程并发能力来进行解决。 I/O密集型任务的性能重点通常不在于CPU的处理
    发表于 06-19 07:19

    CPU密集型任务开发指导

    CPU密集型任务是指需要占用系统资源处理大量计算能力的任务,需要长时间运行,这段时间会阻塞线程其它事件的处理,不适宜放在主线程进行。例如图像处理、视频编码、数据分析等。 基于多线程并发机制处理CPU
    发表于 06-19 06:05

    借助NVIDIA技术实现机器人装配和接触密集型操作

    本期 NVIDIA 机器人研究与开发摘要 (R²D²) 将探讨 NVIDIA 研究中心针对机器人装配任务的多种接触密集型操作工作流,以及它们如何解决传统固定自动化在鲁棒性、适应性和可扩展性等方面的关键挑战。
    的头像 发表于 06-04 13:51 580次阅读
    借助NVIDIA技术实现机器人装配和接触<b class='flag-5'>密集型</b>操作

    携手新华三 SPEC基准测试再创新高,树立企业级存储领域新标杆

    引言:PCIe 5.0时代的存储革新 随着大模型训练、边缘计算与超大规模数据中心的快速发展,存储系统面临性能、效率以及可靠性的多重挑战。
    的头像 发表于 05-08 13:52 482次阅读
    <b class='flag-5'>忆</b><b class='flag-5'>联</b><b class='flag-5'>携手</b>新华三 SPEC基准测试再创新高,树立企业级<b class='flag-5'>存储</b>领域新标杆

    存储趋势前瞻:如何以产品创新重塑AI时代存储价值版图

    趋势做了深入阐述。作为长期深耕存储行业的技术驱动企业,始终紧跟技术前沿,并在产品创新和市场布局上保持领先。 本文将结合峰会风向,分析闪存技术的发展趋势,以及
    的头像 发表于 05-08 11:13 400次阅读
    <b class='flag-5'>存储</b>趋势前瞻:<b class='flag-5'>忆</b><b class='flag-5'>联</b>如何以产品创新重塑AI时代<b class='flag-5'>存储</b>价值版图

    如何以技术创新推动存储产业变革

    趋势做了深入阐述。作为长期深耕存储行业的技术驱动企业,始终紧跟技术前沿,并在产品创新和市场布局上保持领先。
    的头像 发表于 04-29 13:54 885次阅读
    <b class='flag-5'>忆</b><b class='flag-5'>联</b>如何以技术创新推动<b class='flag-5'>存储</b>产业变革

    请问如何在Python中实现多线程与多进程的协作?

    () thread.join() process.join() 我的问题是:**如何合理地组合多线程和多进程以获得更好的性能?**特别是在I/O密集型任务和CPU密集型任务混合的情况下,如何避免性能瓶颈,确保程序的高效运行? 希望大家能
    发表于 03-11 06:57

    金仓数据库入选《2024年度专利密集型产品名单》

    2月8日, 国家专利密集型产品备案认定试点平台公布了《2024年度专利密集型产品名单》,由电科金仓自主研发的金仓数据库管理系统(KingbaseES)凭借扎实的技术积淀与市场验证,成功入选该名
    的头像 发表于 02-23 15:42 754次阅读
    金仓<b class='flag-5'>数据</b>库入选《2024年度专利<b class='flag-5'>密集型</b>产品名单》

    广电计量与TUV携手助雅迅智获中国首批NG eCall证书

    近日,广电计量与全球知名的技术服务提供商TUV携手合作,共同助力厦门雅迅智科技股份有限公司(简称雅迅智)取得了中国首批NG eCal
    的头像 发表于 01-17 14:26 944次阅读