0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

浪潮存储高效存储产品提升数据存储效率

科技绿洲 来源:浪潮存储 作者:浪潮存储 2022-04-08 09:27 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

随着新技术、新应用不断出现,数字化转型也在不断加速,行业智慧应用爆发式增长,不仅改变了人们的工作、生活、学习方式,使得社会进入了数字经济时代,人们进入便捷、高效的智慧时代,据IDC预测 2025 年,每天有超过 60 亿人与数据发生互动,相当于全球人口的 75%;每个联网的人每隔18 秒就会有至少 1 次数据交互,全球数据也将增至 175ZB。而这些数据被记录在不同存储系统与介质中,企业组织不断购置大量的存储设备来应对快速增长的数据存储需求,这也增加了系统支出和资源能耗。浪潮存储基于技术创新提出了智能在线压缩技术(InCompression),通过结合硬件及算法进行数据量缩减,以提升存储空间利用率,达到降低成本的目的。

全闪存储高速发展背后

面临如何提升SSD寿命的挑战

在数据管理的过程中,最终都需要将数据存放到某一类最底层物理存储介质中。目前,底层物理存储介质主要有光、磁、电三种,对应的存储产品类型也可被分为三大类:光学存储,如蓝光存储;磁存储,如HDD机械硬盘;半导体存储,采用电能存储,如SSD固态硬盘。

除了目前主要使用光、磁、电三种介质之外,业界还在进行DNA存储等下一代介质研发。当前在企业级存储市场应用最广泛的是HDD机械盘跟SSD固态盘,其中SSD节能优势明显,相对于HDD,在相同容量下,SSD的电力能耗降低70%,可有效推进数据中心低碳运转,其性能在市场中也具有较强的竞争力。

另外,“硅进磁退” 是存储介质发展的趋势,全闪存阵列的普及速度也在逐年提高。SSD固态硬盘的性能虽高,但是其中的flash颗粒存在成本和磨损寿命的限制。因此在全闪存系统进行设计时,需要充分考虑减少flash的磨损。业界中也通过压缩技术减少写入的数据量,进而有效减少对flash的磨损,提高系统的利用率,延长SSD的使用寿命,从而降低数据存储的成本。

存储系统中的在线压缩技术

存储系统中的无损数据压缩算法,正在由效率较低的定长(Fixed Bit Length Packing)压缩转变为不定长压缩。其中,由Abraham Lempel 和 Jacob Ziv独创性的使用字典的LZ77/78算法及其变种应用最为广泛。这类使用字典来压缩数据LZ算法使用一种基于滑动窗口缓存的技术,该缓存用于保存最近刚刚处理的文本;当出现一个重复时,重复的序列可以用一个短的编码来代替;压缩程序扫描这样的重复,同时生成编码来代替重复序列,随着时间的过去,编码可以重用来捕获新的序列。当然系统必须要设计成解压程序能够在编码和原始数据序列推导出当前的映射。

poYBAGJPj3iAc7JrAAD0Iq5vn-g522.png

△LZ算法示意图

LZ算法使用了有限的窗口在以前的文本中查找匹配,对于相对于窗口大小来说非常长的文本块,很多可能的匹配就会被丢掉。窗口大小可以增加,但这会带来两个损失:一是算法的处理时间会增加;二是指针字段必须更长,以允许更长的跳转。两者都很消耗计算资源(CPU和缓存)。

传统在线实时压缩技术一般采用软件压缩来实现,会带来一定的CPU负载,如果压缩算法做的不够优化,就会导致压缩功能开启后占用较多CPU性能(双倍压缩,占用15%左右CPU资源),一般会影响系统1/3-2/3的性能,影响业务的可用性能。因此,某些存储系统中并不建议企业在业务繁忙时开启压缩功能,一般在业务空闲阶段使用压缩。

数据压缩的另外一个痛点在于,数据块经过压缩后,因为有不同的冗余度,数据块长度变得不一,容易造成磁盘碎片。这种基于位置的压缩给系统的数据布局带来很大影响,严重影响业务的IO响应能力,加剧性能衰减。

基于定长输出的智能在线压缩

保障业务的性能不受影响

浪潮智能在线压缩基于硬件压缩技术,降低了对控制器计算资源的占用,特别是CPU和缓存,使得压缩功能的开启,只占用了低于3%的CPU性能影响(部分IO交互);与此同时,通过特定优化的压缩算法,将在线压缩的不定长数据转变为定长数据,压缩数据8byte对齐。

定长输出压缩模式是一种前压缩方式,数据会先经过缓存压缩(专用缓存和压缩芯片),最终落盘的是压缩后的数据;且算法依据非定长输入会生成定长输出,更容易满条带刷写,提高性能同时提高磁盘空间利用率。

浪潮存储基于时序的优化策略可以识别随机热点数据,依赖局部性原理进行数据存储,进一步提高随机场景的压缩性能。在数据布局上,不再产生数据碎片,从总体测试表现看,经过开启压缩功能,反而提升系统的随机读写性能。数据库类应用压缩比例2:1-5:1,日志型应用最大压缩比例可达10:1,节省了大量的存储空间。

浪潮存储基于“云存智用 运筹新数据”的理念,不断技术创新,将智能压缩技术适配到存储平台,打造敏捷高效的存储产品,在保障性能无损的情况下,提升数据存储的效率,提高了存储空间利用率,降低数据存储成本,让用户能轻松应对数字经济时代的海量数据的挑战。

审核编辑:彭菁
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据
    +关注

    关注

    8

    文章

    7314

    浏览量

    93980
  • 存储
    +关注

    关注

    13

    文章

    4693

    浏览量

    89569
  • 浪潮
    +关注

    关注

    1

    文章

    476

    浏览量

    25305
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    电能质量在线监测装置数据存储在装置内置存储和外接存储设备时有哪些注意事项?

    电能质量在线监测装置数据存储在 装置内置存储 和 外接存储设备 时,需重点关注 介质可靠性、数据安全、环境适配、运维管理 四大核心维度,避免
    的头像 发表于 10-30 10:04 122次阅读

    霄云科技银河存储:重构AI时代的存储新范式

    在人工智能与高性能计算需求呈指数级增长的今天,数据存储效率与可靠性已成为算力释放的关键支撑。上海霄云信息科技有限公司正式推出全新一代AI存储产品
    的头像 发表于 08-21 10:36 738次阅读
    霄云科技银河<b class='flag-5'>存储</b>:重构AI时代的<b class='flag-5'>存储</b>新范式

    CSNP1GCR01-AOW贴片式TF卡:提升电子猫眼数据存储的可靠性#贴片式tf卡 #猫眼 #存储 #TF

    存储
    深圳市雷龙发展有限公司
    发布于 :2025年07月28日 16:21:05

    P2P技术——数据采集系统高效存储的关键

    ,还具备高容量、高速传输、低延迟和高可靠性的特点,帮助客户轻松应对高速、高精度数据采集需求。未来,度纬科技将持续致力于技术创新,不断提升产品性能,为各行业用户提供更高效、更稳定、更安全
    的头像 发表于 07-24 17:24 537次阅读
    P2P技术——<b class='flag-5'>数据</b>采集系统<b class='flag-5'>高效</b><b class='flag-5'>存储</b>的关键

    #### KEPServerEX 数据存储插件\\-2

    上次我们介绍了Datalogger插件的前三式,展示了一些常见的触发器设置,例如数据变化存储,定时存储等等,接下来我们继续讲解后三式。 一、 现在有一个需求是通过逻辑判断有条件的进行存储
    发表于 04-09 16:09

    工业存储新变革:MK eMMC 引领数据存储新时代

    在当今科技飞速发展的工业领域,数据存储犹如工业设备的 “智慧大脑”,承载着生产流程的关键信息。随着工业 4.0 的推进,不同市场应用分类对数据存储提出了多样化且严苛的要求。而 eMMC
    的头像 发表于 04-02 14:14 886次阅读
    工业<b class='flag-5'>存储</b>新变革:MK eMMC 引领<b class='flag-5'>数据</b><b class='flag-5'>存储</b>新时代

    Solidigm高密度方案解决数据中心存储难题,赋能AI创新发展

    QLC在内的丰富产品组合,打破从数据中心到边缘应用面临的存储瓶颈,提升人工智能效率,释放人工智能潜能。 当AI的发展突破界限,算力与存力的天
    的头像 发表于 03-13 15:36 920次阅读

    KEPServerEX 数据存储插件

    KEPServerEX提供一个插件功能即Datalogger---“数据存储插件”,它能将数据存储到任何ODBC接口的数据库中。
    的头像 发表于 02-28 14:47 510次阅读
    KEPServerEX <b class='flag-5'>数据</b><b class='flag-5'>存储</b>插件

    浪潮信息存储SATA SSD:技术创新引领数据存储新时代

    在智慧时代,数据存储需求日益增长,对存储产品的性能和稳定性提出了更高要求。浪潮信息存储,作为行业
    的头像 发表于 02-07 13:41 1006次阅读

    浪潮信息存储SATA SSD:以技术创新,开启数据存储新篇章

    计算平台以及个人用户的数字化需求,迫切需要高效、可靠的存储解决方案。 浪潮信息存储积极响应市场需求,通过自主研发不断积累技术优势,推出了SATA、NVMe、双端口、ZNS等全系列
    的头像 发表于 01-24 10:02 698次阅读

    QLC存储新里程:德明利探索高效存储之路,赋能数据时代新需求

    在大数据和人工智能时代,数据存储需求呈指数级增长,市场对存储媒介的性能、容量和能效提出了更高要求。随着闪存技术向高存储密度发展,一个
    的头像 发表于 01-21 16:00 1473次阅读
    QLC<b class='flag-5'>存储</b>新里程:德明利探索<b class='flag-5'>高效</b><b class='flag-5'>存储</b>之路,赋能<b class='flag-5'>数据</b>时代新需求

    公司电脑云存储怎么使用,怎么使用公司电脑云存储

        在科技日新月异的今天,传统的电脑已经无法满足我们对高效、便捷计算的需求。云电脑以其强大的功能和灵活的使用方式,成为了新时代的宠儿。今天就为大家介绍怎么使用公司电脑云存储。    在现代企业中
    的头像 发表于 01-18 10:21 903次阅读
    公司电脑云<b class='flag-5'>存储</b>怎么使用,怎么使用公司电脑云<b class='flag-5'>存储</b>

    数据怎么云存储在电脑,数据怎么操作才能云存储在电脑

    怎么操作才能云存储在电脑。    在数字化时代,云存储成为了一种高效、灵活的数据管理方式。通过将数据存储
    的头像 发表于 01-14 10:10 1152次阅读
    <b class='flag-5'>数据</b>怎么云<b class='flag-5'>存储</b>在电脑,<b class='flag-5'>数据</b>怎么操作才能云<b class='flag-5'>存储</b>在电脑

    浪潮信息剖析智能时代数据存储领域面临的挑战与机遇

    在当今数字化时代,算力与存力的协同增长已成为驱动各行各业发展的关键力量。特别是在人工智能(AI)这一前沿领域,随着数据量的爆炸式增长,对存储系统的需求日益复杂和多样。近期,在首届CCF中国存储大会上,
    的头像 发表于 12-30 09:43 1194次阅读

    如何优化EEPROM的数据存储策略

    。它广泛应用于需要存储少量数据的场合,如微控制器、传感器和嵌入式系统中。优化EEPROM的数据存储策略可以提高数据的可靠性、延长
    的头像 发表于 12-16 17:21 2029次阅读