0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

浪潮存储高效存储产品提升数据存储效率

科技绿洲 来源:浪潮存储 作者:浪潮存储 2022-04-08 09:27 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

随着新技术、新应用不断出现,数字化转型也在不断加速,行业智慧应用爆发式增长,不仅改变了人们的工作、生活、学习方式,使得社会进入了数字经济时代,人们进入便捷、高效的智慧时代,据IDC预测 2025 年,每天有超过 60 亿人与数据发生互动,相当于全球人口的 75%;每个联网的人每隔18 秒就会有至少 1 次数据交互,全球数据也将增至 175ZB。而这些数据被记录在不同存储系统与介质中,企业组织不断购置大量的存储设备来应对快速增长的数据存储需求,这也增加了系统支出和资源能耗。浪潮存储基于技术创新提出了智能在线压缩技术(InCompression),通过结合硬件及算法进行数据量缩减,以提升存储空间利用率,达到降低成本的目的。

全闪存储高速发展背后

面临如何提升SSD寿命的挑战

在数据管理的过程中,最终都需要将数据存放到某一类最底层物理存储介质中。目前,底层物理存储介质主要有光、磁、电三种,对应的存储产品类型也可被分为三大类:光学存储,如蓝光存储;磁存储,如HDD机械硬盘;半导体存储,采用电能存储,如SSD固态硬盘。

除了目前主要使用光、磁、电三种介质之外,业界还在进行DNA存储等下一代介质研发。当前在企业级存储市场应用最广泛的是HDD机械盘跟SSD固态盘,其中SSD节能优势明显,相对于HDD,在相同容量下,SSD的电力能耗降低70%,可有效推进数据中心低碳运转,其性能在市场中也具有较强的竞争力。

另外,“硅进磁退” 是存储介质发展的趋势,全闪存阵列的普及速度也在逐年提高。SSD固态硬盘的性能虽高,但是其中的flash颗粒存在成本和磨损寿命的限制。因此在全闪存系统进行设计时,需要充分考虑减少flash的磨损。业界中也通过压缩技术减少写入的数据量,进而有效减少对flash的磨损,提高系统的利用率,延长SSD的使用寿命,从而降低数据存储的成本。

存储系统中的在线压缩技术

存储系统中的无损数据压缩算法,正在由效率较低的定长(Fixed Bit Length Packing)压缩转变为不定长压缩。其中,由Abraham Lempel 和 Jacob Ziv独创性的使用字典的LZ77/78算法及其变种应用最为广泛。这类使用字典来压缩数据LZ算法使用一种基于滑动窗口缓存的技术,该缓存用于保存最近刚刚处理的文本;当出现一个重复时,重复的序列可以用一个短的编码来代替;压缩程序扫描这样的重复,同时生成编码来代替重复序列,随着时间的过去,编码可以重用来捕获新的序列。当然系统必须要设计成解压程序能够在编码和原始数据序列推导出当前的映射。

poYBAGJPj3iAc7JrAAD0Iq5vn-g522.png

△LZ算法示意图

LZ算法使用了有限的窗口在以前的文本中查找匹配,对于相对于窗口大小来说非常长的文本块,很多可能的匹配就会被丢掉。窗口大小可以增加,但这会带来两个损失:一是算法的处理时间会增加;二是指针字段必须更长,以允许更长的跳转。两者都很消耗计算资源(CPU和缓存)。

传统在线实时压缩技术一般采用软件压缩来实现,会带来一定的CPU负载,如果压缩算法做的不够优化,就会导致压缩功能开启后占用较多CPU性能(双倍压缩,占用15%左右CPU资源),一般会影响系统1/3-2/3的性能,影响业务的可用性能。因此,某些存储系统中并不建议企业在业务繁忙时开启压缩功能,一般在业务空闲阶段使用压缩。

数据压缩的另外一个痛点在于,数据块经过压缩后,因为有不同的冗余度,数据块长度变得不一,容易造成磁盘碎片。这种基于位置的压缩给系统的数据布局带来很大影响,严重影响业务的IO响应能力,加剧性能衰减。

基于定长输出的智能在线压缩

保障业务的性能不受影响

浪潮智能在线压缩基于硬件压缩技术,降低了对控制器计算资源的占用,特别是CPU和缓存,使得压缩功能的开启,只占用了低于3%的CPU性能影响(部分IO交互);与此同时,通过特定优化的压缩算法,将在线压缩的不定长数据转变为定长数据,压缩数据8byte对齐。

定长输出压缩模式是一种前压缩方式,数据会先经过缓存压缩(专用缓存和压缩芯片),最终落盘的是压缩后的数据;且算法依据非定长输入会生成定长输出,更容易满条带刷写,提高性能同时提高磁盘空间利用率。

浪潮存储基于时序的优化策略可以识别随机热点数据,依赖局部性原理进行数据存储,进一步提高随机场景的压缩性能。在数据布局上,不再产生数据碎片,从总体测试表现看,经过开启压缩功能,反而提升系统的随机读写性能。数据库类应用压缩比例2:1-5:1,日志型应用最大压缩比例可达10:1,节省了大量的存储空间。

浪潮存储基于“云存智用 运筹新数据”的理念,不断技术创新,将智能压缩技术适配到存储平台,打造敏捷高效的存储产品,在保障性能无损的情况下,提升数据存储的效率,提高了存储空间利用率,降低数据存储成本,让用户能轻松应对数字经济时代的海量数据的挑战。

审核编辑:彭菁
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据
    +关注

    关注

    8

    文章

    7351

    浏览量

    95071
  • 存储
    +关注

    关注

    13

    文章

    4902

    浏览量

    90332
  • 浪潮
    +关注

    关注

    1

    文章

    491

    浏览量

    25493
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    存储互斥失败导致数据丢失的数据恢复成功案例

    某单位使用得一套信息管理平台,通过3台虚拟机共用一台存储设备,存储了企业大量核心业务数据。管理员在日常运维中,向该存储网络新增接入一台Windows系统服务器,接入后
    的头像 发表于 04-29 16:45 580次阅读

    佰维存储全面赋能AI存储,强势布局AI眼镜、数据中心存储

    AI正在重塑存储产业,在最近与多家存储企业的交流中,他们提及的一个重点是系统级能力,面对新的AI产品形态、新的存储性能/规格/容量需求,这种整合上下游资源、定制化
    的头像 发表于 04-08 09:39 6343次阅读

    温湿度记录仪,多场景适用,记录存储数据

    存储
    pingao141378
    发布于 :2026年02月27日 14:37:40

    如何突破AI存储墙?深度解析ONFI 6.0高速接口与Chiplet解耦架构

    系列产品(如 ML100 IO Die)实现硬件级交付。• 解耦架构:将存储接口与核心SoC物理解耦,弱化热效应对存储颗粒的影响,提升系统可靠性。• 降本增效:通过国产化供应链和先进
    发表于 01-29 17:32

    当全球存储涨价后#

    存储
    广州灵眸科技有限公司
    发布于 :2026年01月21日 11:19:16

    电能质量在线监测装置的监测数据如何存储和分析?

    电能质量在线监测装置的监测数据会通过“本地存储 + 远程备份”的双层架构实现数据留存,再通过“装置本地基础分析 + 上位机 / 云端深度分析” 的分级模式完成数据解读,整体流程符合 G
    的头像 发表于 12-05 17:58 3721次阅读
    电能质量在线监测装置的监测<b class='flag-5'>数据</b>如何<b class='flag-5'>存储</b>和分析?

    紫光国芯:以全栈存储产品链与硬核技术突破,引领中国存储产业自主创新

    在全球数字经济与人工智能浪潮席卷而来的今天,数据作为新型生产要素,其存储与处理的效率已成为国家科技竞争力的关键体现。在中国存储行业波澜壮阔的
    的头像 发表于 11-30 15:37 1218次阅读

    双口SRAM静态随机存储存储原理

    在各类存储设备中,SRAM(静态随机存储器)因其高速、低功耗和高可靠性,被广泛应用于高性能计算、通信和嵌入式系统中。其中,双口SRAM静态随机存储器凭借其独特的双端口设计,在高带宽和多任务场景中表现尤为出色,成为
    的头像 发表于 11-25 14:28 826次阅读

    电能质量在线监测装置数据存储在装置内置存储和外接存储设备时有哪些注意事项?

    电能质量在线监测装置数据存储在 装置内置存储 和 外接存储设备 时,需重点关注 介质可靠性、数据安全、环境适配、运维管理 四大核心维度,避免
    的头像 发表于 10-30 10:04 417次阅读

    曙光存储推出面向金融的可信AI存储

    近日,曙光存储推出面向金融的可信AI存储,助力金融行业高效、安全、稳定地使用关键业务敏感数据。该方案基于全球领先的集中式全闪存储FlashN
    的头像 发表于 10-23 09:24 812次阅读

    瀚海微SD NAND/TF卡:赋能全场景数据存储,定义高效安全新基准

    控,成为覆盖多场景的优质存储解决方案,为用户解锁高效、安全的数字体验。 高性能突破,重塑数据交互效率 针对当前用户对数据传输速度的核心需求,
    的头像 发表于 10-14 10:18 484次阅读
    瀚海微SD NAND/TF卡:赋能全场景<b class='flag-5'>数据</b><b class='flag-5'>存储</b>,定义<b class='flag-5'>高效</b>安全新基准

    霄云科技银河存储:重构AI时代的存储新范式

    在人工智能与高性能计算需求呈指数级增长的今天,数据存储效率与可靠性已成为算力释放的关键支撑。上海霄云信息科技有限公司正式推出全新一代AI存储产品
    的头像 发表于 08-21 10:36 1124次阅读
    霄云科技银河<b class='flag-5'>存储</b>:重构AI时代的<b class='flag-5'>存储</b>新范式

    CSNP1GCR01-AOW贴片式TF卡:提升电子猫眼数据存储的可靠性#贴片式tf卡 #猫眼 #存储 #TF

    存储
    深圳市雷龙发展有限公司
    发布于 :2025年07月28日 16:21:05

    P2P技术——数据采集系统高效存储的关键

    ,还具备高容量、高速传输、低延迟和高可靠性的特点,帮助客户轻松应对高速、高精度数据采集需求。未来,度纬科技将持续致力于技术创新,不断提升产品性能,为各行业用户提供更高效、更稳定、更安全
    的头像 发表于 07-24 17:24 847次阅读
    P2P技术——<b class='flag-5'>数据</b>采集系统<b class='flag-5'>高效</b><b class='flag-5'>存储</b>的关键

    存储示波器的存储深度对信号分析有什么影响?

    USB将数据传输至PC或NAS。 工具:Tektronix OpenChoice®、Keysight PathWave等软件。 四、存储深度设置的实操建议1. 高频时钟信号(如100MHz) 采样率
    发表于 05-27 14:39