0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

浪潮存储高效存储产品提升数据存储效率

科技绿洲 来源:浪潮存储 作者:浪潮存储 2022-04-08 09:27 次阅读

随着新技术、新应用不断出现,数字化转型也在不断加速,行业智慧应用爆发式增长,不仅改变了人们的工作、生活、学习方式,使得社会进入了数字经济时代,人们进入便捷、高效的智慧时代,据IDC预测 2025 年,每天有超过 60 亿人与数据发生互动,相当于全球人口的 75%;每个联网的人每隔18 秒就会有至少 1 次数据交互,全球数据也将增至 175ZB。而这些数据被记录在不同存储系统与介质中,企业组织不断购置大量的存储设备来应对快速增长的数据存储需求,这也增加了系统支出和资源能耗。浪潮存储基于技术创新提出了智能在线压缩技术(InCompression),通过结合硬件算法进行数据量缩减,以提升存储空间利用率,达到降低成本的目的。

全闪存储高速发展背后

面临如何提升SSD寿命的挑战

在数据管理的过程中,最终都需要将数据存放到某一类最底层物理存储介质中。目前,底层物理存储介质主要有光、磁、电三种,对应的存储产品类型也可被分为三大类:光学存储,如蓝光存储;磁存储,如HDD机械硬盘;半导体存储,采用电能存储,如SSD固态硬盘。

除了目前主要使用光、磁、电三种介质之外,业界还在进行DNA存储等下一代介质研发。当前在企业级存储市场应用最广泛的是HDD机械盘跟SSD固态盘,其中SSD节能优势明显,相对于HDD,在相同容量下,SSD的电力能耗降低70%,可有效推进数据中心低碳运转,其性能在市场中也具有较强的竞争力。

另外,“硅进磁退” 是存储介质发展的趋势,全闪存阵列的普及速度也在逐年提高。SSD固态硬盘的性能虽高,但是其中的flash颗粒存在成本和磨损寿命的限制。因此在全闪存系统进行设计时,需要充分考虑减少flash的磨损。业界中也通过压缩技术减少写入的数据量,进而有效减少对flash的磨损,提高系统的利用率,延长SSD的使用寿命,从而降低数据存储的成本。

存储系统中的在线压缩技术

存储系统中的无损数据压缩算法,正在由效率较低的定长(Fixed Bit Length Packing)压缩转变为不定长压缩。其中,由Abraham Lempel 和 Jacob Ziv独创性的使用字典的LZ77/78算法及其变种应用最为广泛。这类使用字典来压缩数据LZ算法使用一种基于滑动窗口缓存的技术,该缓存用于保存最近刚刚处理的文本;当出现一个重复时,重复的序列可以用一个短的编码来代替;压缩程序扫描这样的重复,同时生成编码来代替重复序列,随着时间的过去,编码可以重用来捕获新的序列。当然系统必须要设计成解压程序能够在编码和原始数据序列推导出当前的映射。

poYBAGJPj3iAc7JrAAD0Iq5vn-g522.png

△LZ算法示意图

LZ算法使用了有限的窗口在以前的文本中查找匹配,对于相对于窗口大小来说非常长的文本块,很多可能的匹配就会被丢掉。窗口大小可以增加,但这会带来两个损失:一是算法的处理时间会增加;二是指针字段必须更长,以允许更长的跳转。两者都很消耗计算资源(CPU和缓存)。

传统在线实时压缩技术一般采用软件压缩来实现,会带来一定的CPU负载,如果压缩算法做的不够优化,就会导致压缩功能开启后占用较多CPU性能(双倍压缩,占用15%左右CPU资源),一般会影响系统1/3-2/3的性能,影响业务的可用性能。因此,某些存储系统中并不建议企业在业务繁忙时开启压缩功能,一般在业务空闲阶段使用压缩。

数据压缩的另外一个痛点在于,数据块经过压缩后,因为有不同的冗余度,数据块长度变得不一,容易造成磁盘碎片。这种基于位置的压缩给系统的数据布局带来很大影响,严重影响业务的IO响应能力,加剧性能衰减。

基于定长输出的智能在线压缩

保障业务的性能不受影响

浪潮智能在线压缩基于硬件压缩技术,降低了对控制器计算资源的占用,特别是CPU和缓存,使得压缩功能的开启,只占用了低于3%的CPU性能影响(部分IO交互);与此同时,通过特定优化的压缩算法,将在线压缩的不定长数据转变为定长数据,压缩数据8byte对齐。

定长输出压缩模式是一种前压缩方式,数据会先经过缓存压缩(专用缓存和压缩芯片),最终落盘的是压缩后的数据;且算法依据非定长输入会生成定长输出,更容易满条带刷写,提高性能同时提高磁盘空间利用率。

浪潮存储基于时序的优化策略可以识别随机热点数据,依赖局部性原理进行数据存储,进一步提高随机场景的压缩性能。在数据布局上,不再产生数据碎片,从总体测试表现看,经过开启压缩功能,反而提升系统的随机读写性能。数据库类应用压缩比例2:1-5:1,日志型应用最大压缩比例可达10:1,节省了大量的存储空间。

浪潮存储基于“云存智用 运筹新数据”的理念,不断技术创新,将智能压缩技术适配到存储平台,打造敏捷高效的存储产品,在保障性能无损的情况下,提升数据存储的效率,提高了存储空间利用率,降低数据存储成本,让用户能轻松应对数字经济时代的海量数据的挑战。

审核编辑:彭菁
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据
    +关注

    关注

    8

    文章

    6511

    浏览量

    87589
  • 存储
    +关注

    关注

    12

    文章

    3854

    浏览量

    84656
  • 浪潮
    +关注

    关注

    1

    文章

    404

    浏览量

    23573
收藏 人收藏

    评论

    相关推荐

    什么是智能存储系统?对比传统存储柜,智能存储柜有哪些优点?

    智能存储系统(IntelligentStorageSystem)是一种先进的数据存储解决方案,它结合了硬件、软件和自动化管理功能,以实现对数据存储
    的头像 发表于 03-05 13:53 137次阅读
    什么是智能<b class='flag-5'>存储</b>系统?对比传统<b class='flag-5'>存储</b>柜,智能<b class='flag-5'>存储</b>柜有哪些优点?

    文件存储和块存储的区别和联系

    文件存储和块存储是两种常见的数据存储方式,它们在设计思想、数据组织方式、应用场景等方面存在着一些区别和联系。 首先,文件
    的头像 发表于 12-20 17:16 427次阅读

    这次,致态上“新”全新存储产品,对你很上“心”!

    多彩生活,每份闪耀和美好都值得被记录。就在今天,致态又上新了!长江存储旗下唯一零售存储品牌致态,为大家带来了两款全新存储产品:致态PRO专业高速
    的头像 发表于 12-08 11:02 373次阅读

    视频监控数据有哪些存储方式?哪种存储方式最优?

    视频监控数据有哪些存储方式?哪种存储方式最优? 随着社会的发展,视频监控技术已经成为城市安全管理中不可缺少的一部分。随之而来的是海量的视频监控数据,如何合理地保存这些
    的头像 发表于 10-26 11:16 1975次阅读

    IDC:中国存储市场排名刷新,浪潮信息进入前二

    10.1EB。 其中,浪潮信息销售额市场占比11.02%,出货量市场占比12.45%,双双跃升中国前二,进一步彰显了强劲的市场竞争力以及客户的高度认可。 数字化转型+AIGC 驱动中国存储市场持续增长 作为全球第二大存储市场,中
    的头像 发表于 10-09 08:40 675次阅读

    从源头出发,浪潮信息智能备电控制方案提升数据存储可靠性

    需求,又要保证数据安全可靠、高效精准的存、读、写。 数据中心“稳定的数据存 力 ”离不开各存储节点的平稳运行,
    的头像 发表于 09-07 16:50 275次阅读
    从源头出发,<b class='flag-5'>浪潮</b>信息智能备电控制方案<b class='flag-5'>提升</b><b class='flag-5'>数据</b><b class='flag-5'>存储</b>可靠性

    浪潮信息稳居中国全闪存储市场前二

    北京2023年8月7日 /美通社/ -- 日前,IDC公布《2023年第一季度中国企业级存储市场跟踪报告》,报告显示,中国企业级数据存储市场销售额同比增长3.45%至70.14亿元,全闪存储
    的头像 发表于 08-08 12:55 747次阅读

    浪潮信息澎湃认证:浪潮分布式存储携手博雅云OneSRM SMP存储管理平台完成兼容性认证

    近日, 博雅云OneSRM SMP存储管理平台与浪潮分布式存储AS13000系列产品完成并通过浪潮信息澎湃技术相互兼容性测试认证 ,测试结果
    的头像 发表于 07-12 09:15 373次阅读
    <b class='flag-5'>浪潮</b>信息澎湃认证:<b class='flag-5'>浪潮</b>分布式<b class='flag-5'>存储</b>携手博雅云OneSRM SMP<b class='flag-5'>存储</b>管理平台完成兼容性认证

    存储主控芯片是什么 主控芯片和存储芯片怎么选

    存储主控芯片是一种集成电路芯片,用于控制和管理存储设备。它负责管理多个存储单元(如内存、固态硬盘、闪存卡等)之间的数据传输和存取操作。存储
    发表于 07-10 15:50 3141次阅读

    存储服务技术架构及云存储服务的优势

    petaexpress云存储服务是一种海量、安全、低成本、高可靠的云存储服务,是一种通过互联网在远程服务器上保存数据、访问和管理数据存储服务
    的头像 发表于 07-07 16:48 450次阅读

    外部存储和内部存储的区别

    Android中根据数据是否为应用私有、是否需要给外部应用暴露以及数据的大小可以有以下几种选择: * Shared Preferences * 内部存储 * 外部存储 *
    的头像 发表于 05-26 11:30 1072次阅读
    外部<b class='flag-5'>存储</b>和内部<b class='flag-5'>存储</b>的区别

    IBM存储推出闪存产品新能力,帮助企业高效应对数据安全威胁

    近日,IBM 存储推出了基于其闪存产品 IBM FlashSystem 的新能力,帮助企业高效应对数据安全威胁。
    的头像 发表于 05-25 16:35 863次阅读

    恒讯科技分析:为什么选择云存储?云存储类型有哪些?

    存储是任何现代企业的重要组成部分。无论是应用程序的数据库还是保护客户的个人详细信息,我们都需要一个安全高效地满足企业独特数字需求的存储解决方案。随着企业使用云的方式不断扩展——尤其是
    的头像 发表于 05-24 16:24 479次阅读

    存储数据恢复】NetApp存储误删数据数据恢复案例

    存储数据恢复环境: NetApp存储设备,WAFL文件系统,底层是由多块硬盘组建的raid磁盘阵列。 存储故障: 工作人员误操作导致NetApp
    的头像 发表于 05-08 13:58 368次阅读

    USB扫码枪扫码存储(数据存储、换型)

    USB扫码枪扫码存储数据存储、换型)
    发表于 04-28 17:04 3次下载