0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

西部数据创新存储架构助力IPFS突破算力瓶颈

话说科技 2021-04-21 10:03 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

4月9日至11日,第九届中国电子信息博览会(CITE2021)在深圳会展中心举办。同期有多场重磅会议及技术论坛开幕,其中4月9日举行的深圳国际大数据与存储峰会以及Web3.0中国峰会格外引得业界关注。

西部数据展台

作为世界存储巨头,西部数据携旗下一系列存储产品亮相展会,尤其是面向未来的IPFS数据存储解决方案更是亮点十足。西部数据公司副总裁兼中国区业务总经理刘钢也在Web3.0中国峰会上为我们带来了以“创新存储架构,突破IPFS算力瓶颈”为主题的演讲。

西部数据公司副总裁兼中国区业务总经理刘钢

·企业级存储架构面临挑战 IPFS发展迅猛

我们的世界正全面交由数字构建,大数据发展的尤为迅猛。据IDC预测,到2024年,以HDD为代表的大数据预计将增长到1.62ZB。而主要以SSD为介质的快数据在2024年也将增长到333EB。相较于HDD大数据30%的年增长率,SSD快数据50%的增长率是非常快的。

如果统计整个2024年产生的数据,总容量将会达到惊人的143个ZB,也就是说大数据和快数据加起来也只有约2 ZB,也就是仅有1.5%的数据被存储。

我们经常说,数字时代,数据就是石油,为什么这多的数据没有被存储下来,继而进行分析并挖掘其价值?很重要的一个原因是存储架构和存储技术没有及时地跟上,以至于有很多数据没有办法被存储下来并及时使用。

现代企业级数据存储架构正面临着严峻的挑战。迅猛的数据增长速度、对于存储能的高要求、更低的总拥有成本(TCO)以及更加环保的绿色能耗体系等多个方面的要求亟需存储架构的革新与变化。

目前,数据的传输与访问,是基于HTTP协议为代表的互联网协议实现的。互联网将计算机与智能移动终端连接在一起,使得用户能够访问存储其他终端上的海量数据。数据以计算机、终端域名为地址进行中心化存储,带来了巨大的流量访问和数据传输压力。

而IPFS去中心化分布式存储架构将会有效降低目前基于中心化的云存储成本,将和去中心化的云计算一起作为Web3.0的重要基础设施,加快推动相关行业的数字化转型进程,构建商业新场景,促使经济社会发生深刻变革。

IPFS 是InterPlanetary File System的缩写,译作星际文件系统。简单而言,IPFS是一个内容可寻址的对等超媒体分发协议,用户要寻找的是存储在某地方的内容,这些内容分散在不同的服务器节点,而不是某个地址,因此只需确认验证内容的哈希值,就可以达到访问目标,大大减小了中心存储的压力。

有了面向未来的IPFS存储架构,还需要将数据进一步细分,这就涉及到了分层存储。按照数据的热度和使用频率,我们可以简单的将其分为极热数据、热数据、温数据、冷数据和极冷数据。

事实上,我们很难找到一种存储介质、存储设备能够同时满足所有层级的数据存储需求,对于不同层级的数据,需要采用的存储介质和存储的设备是不一样的,这样才能够既满足海量数据的存储和对热数据的快速访问。

大数据部分主要针对冷存储和极冷存储,业界通常使用高密度的大容量企业级HDD来进行。目前,已经进化到了18TB容量的高密度硬盘产品。西部数据的Ultrastar DC系列硬盘已经在多个云服务商处得到验证与部署。西部数据基于SMR(叠瓦市磁记录)技术开发的企业级HDD,已经做到了20TB的容量,几家头部云服务商部署的硬盘在过去4年当中,已经从8TB容量进化到了18TB,发展非常迅速。

西部数据公司副总裁兼中国区业务总经理刘钢

但更为惊人的是IPFS服务商的硬盘容量演进速度。在过去四个季度,他们几乎就走完了传统云服务商用时四年才完成的存储容量升级,也就是说从8TB进化到了18TB。

抛开升级速度,无论是IPFS服务商,还是传统云服务商,使用单盘容量越来越大的HDD是统一的,为什么大家从8TB不断升级至12TB、14TB,继而到现在的18TB?其实很简单,在同样存储容量的情况下,使用18TB硬盘可以大大减少服务器的数量,提高存储密度,从而降低功耗,降低部署成本,最终降低运维成本。

IPFS存储与数据分层,让我们有可能使用各种产品的存储组合,来满足用户各方面、各种存储场景的需求,继而解决未来数据时代的存储痛点。

·西部数据领先产品赋能IPFS存储与计算集群

作为世界领先的存储架构公司、在存储领域深耕第51年的存储巨头,西部数据拥有完整的企业级存储产品线。

在HDD方面,西部数据的SMR技术已经成功应用到20TB容量的硬盘上了,一些客户通过部署Ultrastar DC HC650 20TB SMR HDD,得到了更低的总体拥有成本(TCO)与更高的存储密度。全球领先的云存储服务商Dropbox是首批测试验证西部数据Ultrastar DC HC650 20TB SMR HDD的公司之一。

对于需要频繁访问的快数据部分,像热存储、温存储,西部数据主要提供了两种不同类型的SSD产品,像面向极热存储的Ultrastar DC SN840 NVMe SSD,主要针对写入负载密集的负载而设计,可以帮助用户完成高能的计算工作。而Ultrastar DC SN640 NVMe SSD更多应用到主流的服务器和云上,适用于读写均衡的混合型工作负载。

对于企业级客户来说,选择SSD供应商需要考虑很多因素,足够的产能与供应能力,足够低的成本和领先的能,以及良好的纵向优化能力,都是影响用户购买决策的重要方面。

而这几点,恰恰是西部数据的优势。西部数据刚刚推出了第6代3D闪存技术,162层的3D闪存会进一步提高侧面单元密度,相比BiCS5相比,芯片尺寸减小40%,程序能可以提高两倍以上,输入/输出能提高约66%。西部数据与铠侠一起投入巨资,拥有领先的闪存产能优势,占有全球3分之一的Flash产能。

此外,西部数据还拥有完全自主的控制器和固件,和NAND Flash纵向集成,有助于能和稳定的不断优化,确保客户采购的产品在整个生命周期内拥有稳定的I/O一致

在IPFS存储系统中,“存算分离”是一个特别重要的特点。也就是说存储集群和计算集群是分开的,两个集群的存储特有着明显的区别。

如果使用西部数据的18TB HDD,以4U60+18TB的解决方案为例,与传统的4U36+16TB组合相比,机柜数量可以减少约46%,功耗减少约36%,明显降低部署成本和运维成本。

目前,西部数据已经与多家合作伙伴联合推出了IPFS存储解决方案,例如星辰天合、浪潮和西部数据共同推出的IPFS存储系统,使用了西部数据Ultrastar DC HC550 18TB HDD、浪潮英信服务器NF5466M5、XSKY文件存储系统等关键组件,不仅实现了快速部署、便捷运维,还有助于减少业务的异常情况带来的损失,大幅提升业务收益。

在基于分布式存储的Web3.0架构之下,西部数据展示了全方位的技术实力和相应解决方案,赋能IPFS基础设施建设。与业内合作伙伴一起打造的针对IPFS优化的计算和存储节点方案,可以帮助客户更好的挖掘出大数据时代数据的真正价值。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    湘军,让变成生产

    脑极体
    发布于 :2025年11月25日 22:56:58

    从材料到集成:光子芯片技术创新突破瓶颈

    时延、高带宽、低功耗的数据处理能力。随着人工智能需求呈爆发式增长,光子芯片技术路线呈现出多元化的发展态势。   主流技术路线:从材料创新到系统集成的
    的头像 发表于 08-21 09:15 7958次阅读

    西部数据通过 MLPerfâ Storage V2 测试结果,验证其真实场景下的AI存储性能

    西部数据 OpenFlex™ Data24 4000 系列 NVMe-oFä 存储平台,基于铠侠 CM7-V 系列 NVMe® 固态硬盘与配置 PEAK:AIO 软件的AI智服务器,展现出卓越
    发表于 08-05 18:15 674次阅读

    革命:RoCE实测推理时延比InfiniBand低30%的底层逻辑

    本文将深度解析 AI 智场景打造的800G AI RoCE交换机,从外部规格的硬件创新到内部架构的芯片级设计,从企业级操作系统的功能突破到实测数据
    的头像 发表于 05-28 14:08 1735次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>革命:RoCE实测推理时延比InfiniBand低30%的底层逻辑

    明晚开播 | 数据智能系列讲座第6期:大模型革命背后的架构创新

    鹭岛论坛数据智能系列讲座第6期「大模型革命背后的架构创新」/RVEI并行计算工作组(SIG-PP)技术沙龙/明晚(21日)8点精彩开播期
    的头像 发表于 05-20 08:04 337次阅读
    明晚开播 | <b class='flag-5'>数据</b>智能系列讲座第6期:大模型革命背后的<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>架构</b><b class='flag-5'>创新</b>

    直播预约 | 数据智能系列讲座第6期:大模型革命背后的架构创新

    鹭岛论坛数据智能系列讲座第6期「大模型革命背后的架构创新」/RVEI并行计算工作组(SIG-PP)技术沙龙/5月21日(周三)20:00
    的头像 发表于 05-12 14:05 384次阅读
    直播预约 | <b class='flag-5'>数据</b>智能系列讲座第6期:大模型革命背后的<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>架构</b><b class='flag-5'>创新</b>

    DeepSeek推动AI需求:800G光模块的关键作用

    数据传输速率,减少带宽瓶颈,成为数据中心和AI集群架构优化的重点。光模块速率的跃升不仅提升了传输效率,也为大规模并行计算任务提供了必要的带宽保障。 800G光模块如何解决Dee
    发表于 03-25 12:00

    西部数据推出大容量存储方案,赋能NAS用户、创意专业人士与内容创作者

    了更高的要求。随着当今数据驱动的需求不断增长,西部数据公司(NASDAQ: WDC)推出了一系列全新升级的产品,旨在满足市场对大容量存储解决方案的迫切需求。 大容量与高性能的HDD赋能创意工作流
    发表于 03-12 16:16 445次阅读

    西部数据投资者日公布战略蓝图及分拆计划

    。 候任首席执行官Irving Tan在活动中强调了西部数据在提供世界级可持续大规模存储解决方案方面的领导地位。他指出,凭借在HDD技术和创新领域的深厚底蕴,西部数据能够以较低的总体拥
    的头像 发表于 02-18 10:08 744次阅读

    云 GPU 加速计算:突破传统瓶颈的利刃

    ,犹如一把利刃,成功突破了传统瓶颈。 传统的 CPU 计算在面对大规模并行计算任务时,往往显得力不从心。CPU 核心数量有限,且设计侧重于复杂的逻辑控制和串行处理,无法高效处理海
    的头像 发表于 02-17 10:36 516次阅读

    西部数据分拆计划即将完成

    部门将继续沿用“西部数据”这一名号,保持其在硬盘存储领域的领先地位。而闪存部门则将成为一个全新的独立实体,以“闪迪公司”的身份亮相。这一举措旨在通过业务分拆,使两个部门能够更加专注于各自领域的发展,提高运营效率
    的头像 发表于 02-14 13:48 789次阅读

    中科曙光助力浙江精准医疗实验室突破瓶颈

    水平具有重要意义。 然而,在冷冻电镜等应用场景中,瓶颈一直是制约科研进展的关键因素之一。为了突破这一瓶颈,实验室引入了中科曙光的高端计算
    的头像 发表于 02-13 14:42 889次阅读

    西部数据正式通知减产15%以缩减库存

    近日,据外媒报道,全球NAND Flash存储市场中的一大重要参与者——西部数据,已经正式向其客户发出了减产通知。这一决定旨在缩减当前库存水平,以应对市场供需关系的变化。 在NAND Flash存储
    的头像 发表于 02-06 09:38 769次阅读

    西部数据发布超高速、大容量存储新品

    近日,西部数据公司震撼发布了一系列全新的闪存存储解决方案,旨在为即将到来的节假日提供专业人士和广大消费者的完美数据存储选择。无论是作为节日礼物,还是为新项目做准备,
    的头像 发表于 12-26 14:18 911次阅读