0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

阿里巴巴下一代存储架构迈出了关键一步,也为创新的Open Channel生态系统奠定了基础

SSDFans 来源:未知 作者:李倩 2018-07-26 15:49 次阅读

阿里巴巴正在其下一代数据中心基础设施中部署Alibaba Open Channel SSD,这是阿里在FAST 2018大会上宣布Open Channel存储架构后的一个重要里程碑。

背景

Alibaba Open Channel SSD(以下简称AOC SSD)是阿里巴巴的第三款自制存储产品,也是业界首款量产的Open Channel SSD。 它的部署不仅标志着阿里巴巴下一代存储架构迈出了关键一步,也为创新的Open Channel生态系统奠定了基础。

在今年2月举行的2018年FAST大会上,阿里巴巴介绍了为其下一代数据中心所设计的软件/硬件集成的存储架构。 随着人工智能云计算和大数据应用的激增,新架构旨在应对数据中心的新挑战。 这些挑战包括:

(1)性能:对软件/硬件协同优化的需求

(2)灵活性:多样化和快速变化的工作负载需要更多的灵活性和自定义设置

(3)持续增长的成本和供应弹性

(4)应用程序需要控制I / O路径以获得确定性的性能。

(5)需要更快地响应在线问题。

传统的标准SSD和专有的基于主机的SSD都无法有效地应对这些挑战。 因此,阿里巴巴为下一代数据中心提出了新的软件/硬件集成的存储架构,其核心是Alibaba Open Channel SSD以及最上层的Fusion Engine存储引擎软件。

作为阿里巴巴新存储架构的核心硬件,AOC SSD不仅提供透明的白盒设计和定制化功能,还提供标准化平台。 定义AOC SSD平台的AOC SSD规范由阿里巴巴根据其业务需求和案例编写,与其他公司的“Open Channel Spec 1.2 / 2.0”无关。

AOC SSD架构的设计理念是开放性和协作性。 阿里巴巴一直在努力与供应商和行业合作伙伴共同建立AOC SSD生态系统。 目标是减少产品认证的时间和复杂性,提高供应弹性,以便所有参与者都能从中受益。

The AOC SSD 硬件

AOC SSD的核心是AliFSC,这是阿里巴巴首款定制的高性能存储控制器

AliFSC是为阿里巴巴Open Channel SSD定制的高性能控制器。 它有6核、16通道和PCIe G3x8接口,可与所有主流的3D TLC NAND组件配合使用,同时还支持QLC NAND,针对QLC固件的初步开发已经开始。

AliFSC支持AOC SSD规范中指定的所有命令,并提供硬件加速 ,这些命令包括系统元数据(MBR)管理,灵活的奇偶校,XOR引擎,多个写入流,以及开放通道模式下的编程/擦除故障处理。

AOC SSD(AliFlash V3)的外形与标准的2.5英寸U.2 NVMe SSD相同。 因此,它与阿里巴巴数据中心内所有具有NVMe端口的服务器都兼容。 产品开发于2018年3月完成,随后AOC SSD经过多轮软件/固件优化,目前正在阿里巴巴的数据中心进行试运行。

The AOC SSD 软件

AOC SSD与其主机端的软件栈配合使用,以充分发挥其软/硬件集成设计的优势。 在硬件开发的同时,阿里巴巴为不同的应用开发了AOC主机端的软件栈:

内核态的AOC SSD驱动程序和块设备FTL。 这允许应用程序将AOC SSD用作通用块设备,涵盖大多数传统应用。

用户态的AOC SSD驱动程序,与阿里巴巴的Fusion Engine(用户态存储引擎)配合使用。 将整个I / O路径移动到用户空间可以显着降低软件开销,这是阿里巴巴软/硬件集成架构的关键优势之一。

为阿里巴巴的应用(非块解决方案)定制的用户态的FTL解决方案。 这也是业界第一个完整的用户空间开放式通道的软件解决方案。

全套的管理,包括监控和测试工具,与阿里巴巴的DevOps基础架构集成。

整个AOC SSD主机端的软件栈由阿里巴巴开发,其与开源社区中的lightnvm解决方案不同。 事实上,AOC SSD主机端的软件是迄今为止唯一能够保证质量并且可以部署的开放式通道软件解决方案。 此外,AOC SSD的用户空间软件也是业界首个完整的用户空间开放式通道软件解决方案。

The AOC SSD 软硬件协同设计

AOC SSD与阿里巴巴的Fusion Engine合作,为阿里巴巴的业务部门提供软件/硬件集成解决方案。 已经开发了几种不同的解决方案。

内核态的AOC驱动和块设备FTL

自AOC Block Device FTL开发以来,已经对ACL Block Device FTL进行了重大改进和扩展。 初步测试显示随机读写的IOPS分别达到了,700K和120K,超过了标准NVMe SSD的主要替代品。 除了基本的I / O性能之外,AOC SSD还与Fusion Engine软件一起进一步优化了QoS功能,从而为高优先级应用程序提供了更低的读/写延迟。

高优先级应用程序的读延迟。 平均延迟减少75%,99%延迟减少83%。

高优先级应用程序在混合工作负载中的读/写延迟。 平均读/写延迟分别降低了81%和99%,99%的读延迟降低了49%。

用户态的 AOC SSD软件设计

使用用户态的AOC SSD软件,针对特定应用开发了定制化的FTL,以实现更高级别的软件/硬件协同优化。 例如,阿里巴巴为Key-Value应用开发了“Object SSD FTL”,并在阿里巴巴的业务部门广泛使用。 Object SSD FTL与阿里巴巴的用户态KV引擎配合使用。 将AOC SSD的奇偶校验作为对象暴露给KV引擎,并将内部垃圾回收与应用程序的压缩操作相结合,KV-Object SSD解决方案有望将写入放大系数降低4倍,延迟降低99% 到80%。

AOC SSD和标准NVMe SSD的对比如下:

The AOC SSD 生态

AOC SSD架构被设计为一个平台。 阿里巴巴正在与主要的SSD供应商合作开发兼容的AOC SSD产品。 在这些合作中,SSD供应商负责SSD硬件和固件,而阿里巴巴则负责主机端软件。 双方合作共同开发和调试,以减少产品开发和资格认证的时间。 阿里巴巴正在数据中心部署供应商提供的AOC SSD产品,并逐步将AOC SSD部署到阿里巴巴所有的服务器中。

The AOC SSD 的未来计划

作为阿里巴巴下一代存储架构的核心硬件,阿里巴巴有一个关于AOC SSD的长期计划。

近期:供应商提供的AOC SSD产品的大规模部署。

中期:AOC SSD的QLC版本,AOC SSD的超低延迟版本,基于FPGA / GPU进行加速。

长期:新的非易失性存储介质解决,存储/内存计算解决方案。

总结

阿里巴巴开放通道SSD的部署不仅是阿里巴巴下一代存储架构的关键一步,也标志着阿里巴巴从追随者向存储技术领导者转变。 AOC SSD的大规模部署将使阿里巴巴的基础设施受益,使其在支持阿里巴巴的业务创新和全球化方面更具有效的竞争力.

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据中心
    +关注

    关注

    15

    文章

    4186

    浏览量

    69984
  • 存储架构
    +关注

    关注

    0

    文章

    17

    浏览量

    10069
  • 阿里巴巴
    +关注

    关注

    7

    文章

    1571

    浏览量

    46432

原文标题:Alibaba Open Channel SSD,阿里巴巴存储架构的重要里程碑

文章出处:【微信号:SSDFans,微信公众号:SSDFans】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    体验碎片化及安徽信任度将影响大时代人工智能设备的可靠发展

    智能设备生态系统正在影响和改动消费者的日子与运用习气,这些生态系统不只提供当下消费者所需,还会开掘及影响其潜在需求——小米、联想,阿里巴巴和京东等巨子正在通过打造智能音箱,进一步紧密布
    发表于 08-15 11:16

    2017双11技术揭秘—阿里巴巴数据库技术架构演进

    的0.5亿一路攀升到2017年的1682亿,秒级交易创建峰值达到了32.5万笔/秒。支撑这切业务指标的背后,是底层技术体系的次次迭代升级。阿里巴巴数据库系统经历
    发表于 01-02 16:31

    阿里巴巴敏捷研发的探索与实践

    :30-17:00 open space互动交流 主持人:张燎原议题:互联网产品的探索和创新方法嘉宾介绍:何勉(花名耘启),阿里巴巴集团研发效能事业部资深解决方案
    发表于 03-07 17:26

    阿里巴巴大数据实践之数据建模

    的数据仓库模型建设经历多个发展阶段。第个阶段:完全应用驱动的时代,阿里巴巴的第一代数据仓库系统构建在Oracle上,数据完全以满足报表需
    发表于 03-14 17:23

    阿里巴巴发布智能运维故障管理AI+生态计划

    摘要: 响应马老师“家国情怀,世界担当”的号召,开放“AI+”生态计划,将让集团内部服务过程中积累下的技术与经验更好地回馈社会,任何企业或合作伙伴均可以简单方便的接入阿里巴巴智能故障管理平台,通过
    发表于 06-14 17:34

    支持Dubbo生态发展,阿里巴巴启动新的开源项目 Nacos

    Nacos项目将阿里巴巴在建设共享服务体系中使用的服务发现、配置及服务管理平台贡献给开源社区,通过打造Dubbo + Nacos的经典组合进一步释放Dubbo在云原生及Service Mesh时代中,在
    发表于 07-05 17:35

    阿里巴巴大数据系统体系”四大层次

    阿里巴巴作为距离大数据最近的公司之,既有丰富的数据资源也有丰富的应用场景,从它建构的大数据体系了解“大数据”这条生态链的全貌,我认为是比较科学的。 “阿里巴巴大数据
    发表于 08-29 16:19

    国内芯片—阿里巴巴的人工智能实力

    成立于2016年,2017年首次对外公布的阿里巴巴工智能实验室(A.I. Labs)目前主要聚焦AI技术,研究对象包括机器学习、下一代人机交互、自动驾驶、服务机器人等领域。 云栖大会上,阿里巴巴
    发表于 09-27 17:54

    阿里云安全肖力:云原生安全构筑下一代企业安全架构

    现场,肖力正式发布阿里云安全白皮书4.0》,用“五横两纵”的方式展示下一代企业安全架构所应具备的核心能力。从横向角度看,用户需要搭建以
    发表于 09-29 15:15

    Nvidia/ARM交易,能怎样下一个计算机时代创造主导的生态系统

    的战略优势,而Nvidia的执行力很好,使其定位将成为下一个计算时代的主导者的公司。英伟达拥有在其GPU周围创建令人印象深刻的生态系统的良好记录,这使其在创建包括CPU在内的边缘计算的完整
    发表于 09-07 09:49

    everspin生态系统和制造工艺创新解析

    everspin生态系统和制造工艺创新
    发表于 01-01 07:55

    阿里云开放物联网技术开发平台

    月公司开源玄铁 IP 核系列(基于 RISC-V 指令集架构的定制处理器)之后。“本次发布进一步证明了我们对 RISC-V 软件生态系统的持续支持以及我们对开源社区的承诺,”阿里巴巴
    发表于 03-08 08:50

    性能提升1倍,成本直降50%!基于龙蜥指令加速的下一代云原生网关

    主导的云原生时代,下一代的网关模式仍然会是传统的流量网关与微服务网关的两层架构吗?带着这个问题,并结合阿里巴巴内部沉淀的网关技术与运维经验,我们尝试来回答下,什么是下一代网关。(图
    发表于 08-31 10:46

    瑞萨电子宣布与阿里巴巴合作 将共建物联网生态系统

    RX65N/RX651系列中嵌入物联网操作系统AliOS Things,开拓电商销售渠道及共建物联网生态系统
    的头像 发表于 10-03 17:08 3868次阅读

    数字加密货币生态系统开源平台阿里巴巴币介绍

    阿里巴巴币是一个为了开发数字加密货币市场空间、任何对象并将这些对象快速发行并整合至独特生态系统的开源平台。该平台由商业密码经济维护并由区块链提供动力。阿里巴巴币是一个新开发的加密货币,它使用了新的安全和加密特征及技术,所以全世界
    发表于 02-21 14:06 2203次阅读