0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

西部数据创新存储架构助力IPFS突破算力瓶颈

话说科技 2021-04-21 10:03 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

4月9日至11日,第九届中国电子信息博览会(CITE2021)在深圳会展中心举办。同期有多场重磅会议及技术论坛开幕,其中4月9日举行的深圳国际大数据与存储峰会以及Web3.0中国峰会格外引得业界关注。

西部数据展台

作为世界存储巨头,西部数据携旗下一系列存储产品亮相展会,尤其是面向未来的IPFS数据存储解决方案更是亮点十足。西部数据公司副总裁兼中国区业务总经理刘钢也在Web3.0中国峰会上为我们带来了以“创新存储架构,突破IPFS算力瓶颈”为主题的演讲。

西部数据公司副总裁兼中国区业务总经理刘钢

·企业级存储架构面临挑战 IPFS发展迅猛

我们的世界正全面交由数字构建,大数据发展的尤为迅猛。据IDC预测,到2024年,以HDD为代表的大数据预计将增长到1.62ZB。而主要以SSD为介质的快数据在2024年也将增长到333EB。相较于HDD大数据30%的年增长率,SSD快数据50%的增长率是非常快的。

如果统计整个2024年产生的数据,总容量将会达到惊人的143个ZB,也就是说大数据和快数据加起来也只有约2 ZB,也就是仅有1.5%的数据被存储。

我们经常说,数字时代,数据就是石油,为什么这多的数据没有被存储下来,继而进行分析并挖掘其价值?很重要的一个原因是存储架构和存储技术没有及时地跟上,以至于有很多数据没有办法被存储下来并及时使用。

现代企业级数据存储架构正面临着严峻的挑战。迅猛的数据增长速度、对于存储能的高要求、更低的总拥有成本(TCO)以及更加环保的绿色能耗体系等多个方面的要求亟需存储架构的革新与变化。

目前,数据的传输与访问,是基于HTTP协议为代表的互联网协议实现的。互联网将计算机与智能移动终端连接在一起,使得用户能够访问存储其他终端上的海量数据。数据以计算机、终端域名为地址进行中心化存储,带来了巨大的流量访问和数据传输压力。

而IPFS去中心化分布式存储架构将会有效降低目前基于中心化的云存储成本,将和去中心化的云计算一起作为Web3.0的重要基础设施,加快推动相关行业的数字化转型进程,构建商业新场景,促使经济社会发生深刻变革。

IPFS 是InterPlanetary File System的缩写,译作星际文件系统。简单而言,IPFS是一个内容可寻址的对等超媒体分发协议,用户要寻找的是存储在某地方的内容,这些内容分散在不同的服务器节点,而不是某个地址,因此只需确认验证内容的哈希值,就可以达到访问目标,大大减小了中心存储的压力。

有了面向未来的IPFS存储架构,还需要将数据进一步细分,这就涉及到了分层存储。按照数据的热度和使用频率,我们可以简单的将其分为极热数据、热数据、温数据、冷数据和极冷数据。

事实上,我们很难找到一种存储介质、存储设备能够同时满足所有层级的数据存储需求,对于不同层级的数据,需要采用的存储介质和存储的设备是不一样的,这样才能够既满足海量数据的存储和对热数据的快速访问。

大数据部分主要针对冷存储和极冷存储,业界通常使用高密度的大容量企业级HDD来进行。目前,已经进化到了18TB容量的高密度硬盘产品。西部数据的Ultrastar DC系列硬盘已经在多个云服务商处得到验证与部署。西部数据基于SMR(叠瓦市磁记录)技术开发的企业级HDD,已经做到了20TB的容量,几家头部云服务商部署的硬盘在过去4年当中,已经从8TB容量进化到了18TB,发展非常迅速。

西部数据公司副总裁兼中国区业务总经理刘钢

但更为惊人的是IPFS服务商的硬盘容量演进速度。在过去四个季度,他们几乎就走完了传统云服务商用时四年才完成的存储容量升级,也就是说从8TB进化到了18TB。

抛开升级速度,无论是IPFS服务商,还是传统云服务商,使用单盘容量越来越大的HDD是统一的,为什么大家从8TB不断升级至12TB、14TB,继而到现在的18TB?其实很简单,在同样存储容量的情况下,使用18TB硬盘可以大大减少服务器的数量,提高存储密度,从而降低功耗,降低部署成本,最终降低运维成本。

IPFS存储与数据分层,让我们有可能使用各种产品的存储组合,来满足用户各方面、各种存储场景的需求,继而解决未来数据时代的存储痛点。

·西部数据领先产品赋能IPFS存储与计算集群

作为世界领先的存储架构公司、在存储领域深耕第51年的存储巨头,西部数据拥有完整的企业级存储产品线。

在HDD方面,西部数据的SMR技术已经成功应用到20TB容量的硬盘上了,一些客户通过部署Ultrastar DC HC650 20TB SMR HDD,得到了更低的总体拥有成本(TCO)与更高的存储密度。全球领先的云存储服务商Dropbox是首批测试验证西部数据Ultrastar DC HC650 20TB SMR HDD的公司之一。

对于需要频繁访问的快数据部分,像热存储、温存储,西部数据主要提供了两种不同类型的SSD产品,像面向极热存储的Ultrastar DC SN840 NVMe SSD,主要针对写入负载密集的负载而设计,可以帮助用户完成高能的计算工作。而Ultrastar DC SN640 NVMe SSD更多应用到主流的服务器和云上,适用于读写均衡的混合型工作负载。

对于企业级客户来说,选择SSD供应商需要考虑很多因素,足够的产能与供应能力,足够低的成本和领先的能,以及良好的纵向优化能力,都是影响用户购买决策的重要方面。

而这几点,恰恰是西部数据的优势。西部数据刚刚推出了第6代3D闪存技术,162层的3D闪存会进一步提高侧面单元密度,相比BiCS5相比,芯片尺寸减小40%,程序能可以提高两倍以上,输入/输出能提高约66%。西部数据与铠侠一起投入巨资,拥有领先的闪存产能优势,占有全球3分之一的Flash产能。

此外,西部数据还拥有完全自主的控制器和固件,和NAND Flash纵向集成,有助于能和稳定的不断优化,确保客户采购的产品在整个生命周期内拥有稳定的I/O一致

在IPFS存储系统中,“存算分离”是一个特别重要的特点。也就是说存储集群和计算集群是分开的,两个集群的存储特有着明显的区别。

如果使用西部数据的18TB HDD,以4U60+18TB的解决方案为例,与传统的4U36+16TB组合相比,机柜数量可以减少约46%,功耗减少约36%,明显降低部署成本和运维成本。

目前,西部数据已经与多家合作伙伴联合推出了IPFS存储解决方案,例如星辰天合、浪潮和西部数据共同推出的IPFS存储系统,使用了西部数据Ultrastar DC HC550 18TB HDD、浪潮英信服务器NF5466M5、XSKY文件存储系统等关键组件,不仅实现了快速部署、便捷运维,还有助于减少业务的异常情况带来的损失,大幅提升业务收益。

在基于分布式存储的Web3.0架构之下,西部数据展示了全方位的技术实力和相应解决方案,赋能IPFS基础设施建设。与业内合作伙伴一起打造的针对IPFS优化的计算和存储节点方案,可以帮助客户更好的挖掘出大数据时代数据的真正价值。


声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    西部数据发布业界首款后量子加密硬盘,为AI时代数据安全筑起量子韧性防线

    Cryptography, PQC)技术。这一突破性产品的发布,使西部数据成为业界首家将后量子加密技术量产落地到硬盘产品中的存储厂商,标志着全球存储行业在下一代可信基础
    的头像 发表于 05-26 09:28 888次阅读

    西部数据加速存储创新,打造面向AI时代的定制化存储解决方案

    5月21日,作为 AI 驱动型数据经济的存储基石,西部数据(NASDAQ: WDC)于2026年5月21日在深圳举办客户创新日。活动期间,西部数据
    的头像 发表于 05-22 16:08 4708次阅读
    <b class='flag-5'>西部数据</b>加速<b class='flag-5'>存储</b><b class='flag-5'>创新</b>,打造面向AI时代的定制化<b class='flag-5'>存储</b>解决方案

    拆解存一体技术瓶颈,亿铸科技如何逐个突破

    搬运,不仅造成带宽与时延瓶颈,还产生极高额外能耗。行业内一个公认的观点是:当前 AI 计算中数据搬运成本已远超计算本身成本,存储墙、能耗墙成为制约
    的头像 发表于 05-14 09:51 266次阅读

    AI Ceph 分布式存储教程资料大模型学习资料2026

    在人工智能的浪潮中,、算法与数据被誉为三驾马车。然而,随着大模型(LLM)参数量突破万亿级别,数据集规模膨胀至 PB 乃至 EB 级别,
    发表于 05-01 17:35

    阿里云全光互联架构突破AI瓶颈

    电子发烧友网报道(文/李弯弯)全球基建叙事生变,正从GPU时代迈向连接为王的通信时代。Scaling-law边际效益放缓,芯片间连接通信成系统
    的头像 发表于 02-27 09:19 2748次阅读
    阿里云全光互联<b class='flag-5'>架构</b>,<b class='flag-5'>突破</b>AI<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>瓶颈</b>

    西部数据WD最新HDD技术路线曝光!40TB容量新高,100TB HDD指日可待

    % 的收入由 AI 和云计算驱动。作为一家独立的HDD企业,展现出强大的执行和财务表现。     在2026年创新日(Innovation Day)上,西部数据发布100TB+ HDD路线图、性能与功耗优化的硬盘的技术
    的头像 发表于 02-06 10:51 2964次阅读
    <b class='flag-5'>西部数据</b>WD最新HDD技术路线曝光!40TB容量新高,100TB HDD指日可待

    如何突破AI存储墙?深度解析ONFI 6.0高速接口与Chiplet解耦架构

    1. 行业核心痛点:AI“存储墙”危机在大模型训练与推理场景中,演进速度远超存储带宽,计算与存储之间的性能鸿沟(
    发表于 01-29 17:32

    安森美多系列功率器件产品助力突破AI数据中心能效瓶颈

    随着 AI 需求的爆发式增长,数据中心正面临功率密度激增、能耗加剧及行业效率标准日趋严苛的多重考验。作为功率器件领域的领导厂商,安森美(onsemi)如何助力客户
    的头像 发表于 01-24 17:04 2559次阅读

    友思特方案 | 突破 Jetson平台的接口性能瓶颈,Gidel 基于FPGA的高速边缘AI视觉系统

    友思特合作伙伴Gidel FantoVision 成功突破 Jetson I/O 性能瓶颈助力开发者毫无妥协地将像素数据转化为智能
    的头像 发表于 01-13 10:22 2187次阅读
    友思特方案 | <b class='flag-5'>突破</b> Jetson平台的接口性能<b class='flag-5'>瓶颈</b>,Gidel 基于FPGA的高速边缘AI视觉系统

    湘军,让变成生产

    脑极体
    发布于 :2025年11月25日 22:56:58

    西部数据扩建系统集成测试实验室,以加速客户在持续增长的 AI 和云时代取得成功

    西部数据(NASDAQ: WDC)近日宣布正式启用其扩建的系统集成测试 (SIT)实验室。这座先进的设施占地 25,600 平方英尺,旨在加速客户成功并加快价值落地。随着 AI 应用驱动存储需求的大幅增长,新实验室将聚焦满足客户的关键需求——对
    的头像 发表于 10-22 16:05 1659次阅读
    <b class='flag-5'>西部数据</b>扩建系统集成测试实验室,以加速客户在持续增长的 AI 和云时代取得成功

    华为斩获2025中国大会年度重大突破成果奖

    通信产品线数据中心网络解决方案首席架构师赵笑可应邀参会,并发表了“AI时代下数据中心网络发展思考”演讲。中国大会期间,华为在网计算加速技
    的头像 发表于 08-26 17:05 3075次阅读

    从材料到集成:光子芯片技术创新突破瓶颈

    时延、高带宽、低功耗的数据处理能力。随着人工智能需求呈爆发式增长,光子芯片技术路线呈现出多元化的发展态势。   主流技术路线:从材料创新到系统集成的
    的头像 发表于 08-21 09:15 9863次阅读

    睿海光电领航AI光模块:超快交付与全场景兼容赋能智时代——以创新实力助力全球客户构建高效底座

    到全场景兼容,从800G量产突破到1.6T前瞻布局,睿海光电始终以客户需求为导向,以技术创新为引擎,为全球AI基础设施建设提供坚实底座。凭借智能制造实力与开放生态策略,睿海光电正携手合作伙伴,共同推动智能时代的
    发表于 08-13 19:03

    西部数据通过 MLPerfâ Storage V2 测试结果,验证其真实场景下的AI存储性能

    西部数据 OpenFlex™ Data24 4000 系列 NVMe-oFä 存储平台,基于铠侠 CM7-V 系列 NVMe® 固态硬盘与配置 PEAK:AIO 软件的AI智服务器,展现出卓越
    发表于 08-05 18:15 1148次阅读