0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

你见过1EB的存储系统吗?堪称世界上最大的单一文件系统

存储加速器 来源:yxw 2019-06-19 09:31 次阅读

近日,全球超级计算机领导者 Cray Inc. 宣布,Frontiersman Cray为“最大的单一文件系统”提供了5000万美元的存储合同,为美国Oak Ridge国家实验室(ORNL)Frontier exascale超级计算机提供1 exabyte的ClusterStor存储。

Frontier是价值6亿美元的Cray-AMD exascale系统,最高可达1.5 exaFLOPS,将于2021年交付,并于2022年验收。它将成为ORNL 200 petaFLOPS Summit超级计算机的后续产品

Cray凭借其在5月份由AMD EPYC处理器和Radeon Instinct GPU驱动的Shasta超级计算机赢得了Frontier竞标,因此相关的存储合同并不出乎意料。

该存储解决方案是针对亿亿次级数据密集型工作负载的新设计,将基于下一代Cray®ClusterStor®存储和Cray Slingshot™高速互连。下一代Cray®ClusterStor®存储文件系统是基于Cray的Shasta™的架构,并且将作为ORNL国家实验室的的一部分集成到Frontier exascale超级计算机。

新的存储解决方案将由超过一兆字节(EB)的混合闪存和运行Lustre®并行文件系统的高容量存储组成。一个exabyte的存储空间是1000PB,这足以存储超过2亿个高清电影。存储解决方案将通过Slingshot系统互连到ORNL exascale超级计算机,实现系统上同时运行的各种建模,仿真,分析和AI工作负载的无缝扩展。该Frontier exascale超级计算机预计将于2021年首次亮相,成为世界上功能最强大的计算机,性能超过1.5 exaflops。

与ORNL目前的Summit超级计算机的存储相比,这种下一代解决方案,容量是其四倍以上(超过1 EB(或1,000 PB)而不是250 PB),另外和基于Spectrum Scale的存储系统的2.5 TB / s相比,吞吐量将超过4倍(高达10 TB / s)。面向ORNL的新型Cray ClusterStor存储解决方案将包含40多个存储柜,并在两层存储中提供超过1 EB的总容量,以支持数据的随机和流式访问。主层是用于高性能临时存储的闪存层,而辅助层是用于高容量存储的硬盘层。新的存储系统将成为ORNL的中心系统,该Frontier exascale系统将由具有ZFS本地卷的Lustre全局并行文件系统访问,所有这些都在一个全局POSIX命名空间中,这将使其成为世界上最大的单个高性能文件系统。

ORNL的Frontier项目主管Justin Whitt透露,新的解决方案将为科学家提供传统建模和模拟以及深度学习和数据科学所需的性能和容量。

HPC存储系统传统上使用大型硬盘阵列来满足大量可预测的数据读取和写入访问。这与人工智能机器学习工作负载形成鲜明对比,后者通常混合使用小型和大型数据的随机和顺序访问。因此,传统存储系统不适合这些工作负载的综合使用,因为混合数据的访问和智能高速系统互连的需求,可以快速地在超级计算机上移动大量数据,从而使这些不同的工作负载在Frontier exascale系统上同时运行。

下一代基于ClusterStor的存储解决方案通过提供闪存和容量存储的混合来支持复杂的访问模式,强大的新软件堆栈以提高数据的可管理性和分层,以及通过计算和存储实现无缝扩展,从而解决了这些挑战。除了扩展之外,存储与Slingshot网络的直接连接消除了对大多数传统HPC网络所需的存储路由器的需求。此外,由于Slingshot是以太网兼容的,这样可以降低整个系统的成本,降低复杂性并降低延迟,从而提供更高的前所未有的应用性能和ROI。

通过将超级计算的性能和规模与云计算的生产力和完整的数据中心互操作性相结合,Cray的Shasta超级计算机,ClusterStor存储和Slingshot互连正迅速成为亿亿时代的领先技术选择。惠普正以13亿美元的价格收购Cray,该交易预计将在技术巨头2020财年的第一季度完成。这意味着HPE现在正处于亿元计算竞争中,并将提供自己的存储。Cray宣布其计算,软件,存储和互连功能正在为HPC和企业客户提供产品,预计可用性将从2019年底开始 。

值得关注的是,Cray / Intel Aurora exaflopper将于2021年推出,与Frontier一样。日本的Arm-powered Post-K exascale系统也即将到期,中国的天河-3可能会在2020年出现。ATOS为欧洲处理器计划提供的欧盟exascale计算机预计将在2021年推出其首批系统,其中1个exaFLOPS Gen 2 GPP Cronos系统将于2022年至2023年推出。IBM也将参加exascale竞赛,El Capitan也将于2021年参加Argonne领导计算机设施。届时存储社区将透露更多关于各大超级计算机上的存储系统。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 处理器
    +关注

    关注

    68

    文章

    18202

    浏览量

    221916
  • 超级计算机
    +关注

    关注

    2

    文章

    431

    浏览量

    41604
  • 存储系统
    +关注

    关注

    2

    文章

    378

    浏览量

    40699
  • Cray
    +关注

    关注

    0

    文章

    7

    浏览量

    8684

原文标题:你见过1EB的存储系统吗?堪称世界上最大的单一文件系统

文章出处:【微信号:TopStorage,微信公众号:存储加速器】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    鸿蒙轻内核源码分析:虚拟文件系统 VFS

    接口不统一,若系统中有多个文件系统类型,访问不同的文件系统就需要使用不同的非标准接口。而通过在系统中添加 VFS 层,提供统一的抽象接口,屏蔽了底层异构类型的
    的头像 发表于 02-18 14:50 126次阅读

    教你在Ubuntu系统定制文件系统

    开发板都需要去apt-get安装,这样会大幅增加工作量,很不便于批量化生产。 能不能把软件起打包到镜像呢?这样每次烧写完就不用再去apt-get在线安装了。答案当然是肯定的,这就涉及到文件系统的定制了
    发表于 12-26 16:33

    如何配置只读属性的文件系统(Colibri iMX7为例)

    由于存储介质不同,Nand Flash 上通常采用如 jffs2、UBI 等格式文件系统。Toradex 的 Linux 系统使用 UBI 文件系统
    的头像 发表于 12-07 09:31 552次阅读
    如何配置只读属性的<b class='flag-5'>文件系统</b>(Colibri iMX7为例)

    服务器数据恢复—ocfs2文件系统被误格式化为Ext4文件系统的数据恢复案例

    由于工作人员的误操作,将Ext4文件系统误装入到存储中Ocfs2文件系统数据卷上,导致原Ocfs2文件系统被格式化为Ext4文件系统。 由
    的头像 发表于 12-04 10:49 228次阅读
    服务器数据恢复—ocfs2<b class='flag-5'>文件系统</b>被误格式化为Ext4<b class='flag-5'>文件系统</b>的数据恢复案例

    Linux的文件系统特点

    Linux的文件系统特点 文件系统要有严格的组织形式,使得文件能够以块为单位进行存储文件系统中也要有索引区,用来方便查找一个
    的头像 发表于 11-09 14:48 449次阅读
    Linux的<b class='flag-5'>文件系统</b>特点

    FAT32文件系统详细分析 (格式化SD nand/SD卡)

    析: 3.3.1 FAT1 3.3.2 FAT2 3.4 数据区分析: 总结 1. 前言 续篇文章 : FATFS文件系统详解:关于如S
    发表于 11-03 17:55

    FAT32文件系统详细分析 (格式化SD nand/SD卡)

    析: 3.3.1 FAT1 3.3.2 FAT2 3.4 数据区分析: 总结 1. 前言 续篇文章 : FATFS文件系统详解:关于如S
    发表于 10-18 16:58

    分布式文件系统的设计原理是什么?

    什么是分布式文件系统?分布式文件系统(DFS)是一种计算机文件系统,使用户能够从多个分布式位置存储和访问数据。它是在分布式环境中的不同计算机之间共享信息的一种方式。通过使用分布式
    的头像 发表于 10-17 17:35 404次阅读

    FAT16文件系统有什么缺点?

    FAT16文件系统有什么缺点
    发表于 10-09 07:27

    谈谈什么是文件系统 文件系统的功能与特点

    文件系统的应用非常广泛,同时种类也是特别的多,并且不同平台也会使用不同性能和特点的文件系统,比如查找效率、数据安全等级等等,如下面windows使用的NTFS:
    发表于 08-30 09:50 1365次阅读
    谈谈什么是<b class='flag-5'>文件系统</b> <b class='flag-5'>文件系统</b>的功能与特点

    存储卡的文件系统区别

    FAT16(File Allocation Table 16):FAT16是比较传统的文件系统,最早用于DOS操作系统。它支持最大2GB的存储容量,
    的头像 发表于 08-08 14:24 1237次阅读
    <b class='flag-5'>存储</b>卡的<b class='flag-5'>文件系统</b>区别

    FATFS文件系统原版文件下载

    FATFS文件系统原版文件下载
    发表于 06-25 09:02 0次下载

    FAT文件系统(2)#操作系统

    文件系统
    学习硬声知识
    发布于 :2023年05月25日 17:02:20

    FAT文件系统(1)#操作系统

    文件系统
    学习硬声知识
    发布于 :2023年05月25日 17:01:49

    RT-Thread BSP qemu-virt64-aarch64文件系统

      前言   前面大体搭建了 RT-Thread BSP qemu-virt64-aarch64 的交叉编译环境,运行后发现,文件系统没有挂载,感觉是没有 mkfs。   通过RT-Thread
    发表于 05-16 10:29