0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

云缓存技术的工作原理

存储D1net 来源:TechTarget中国 2020-08-10 11:51 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

企业越来越多地将IT基础架构从本地系统转移到云服务。在这个过程中,他们面临着分布式系统设计人员熟悉的问题:最大限度地减少性能降级–当应用程序和用户与其数据分离时会出现性能下降。即使企业全面使用云基础架构,并将应用程序和存储放在同一云区域中,也无法避免这种降低性能带来的云延迟,因为员工仍必须通过互联网来访问文件共享和数据库。

无论是在处理器芯片上还是在企业IT环境中,数据延迟的典型解决方案都是缓存和同步。通过这些技术,企业可以将经常访问的信息复制到本地存储库,并将本地更改自动复制到中央存储位置。

存储缓存在云端有多种形式。一种流行的方法是云缓存设备(类似于小型NAS阵列)定期与一个或多个云存储服务(作为权威数据源)同步。

云缓存技术的工作原理

目前有多种可用的云存储缓存设备。最流行的部署是采用本地硬件或虚拟设备,它们连接到至少一个云驻留虚拟网关,并提供管道至一个或多个云对象、文件或块存储服务。这些设备可以在单个群集内和多个远程位置并行使用。它们创建了一个分布式存储系统,其中包含多个企业数据中心、边缘位置和托管存储服务的IaaS区域。

云缓存系统有时也称为混合存储网关设备,以强调其作为本地和云基础架构之间桥梁的作用。正如该Gartner定义所指出,与其他嵌入式缓存一样,这些设备基于设备和应用程序拦截文件、块或对象存储I / O。它们使用缓存管理算法(通常是最近最少使用或自适应替换缓存算法)来最大化缓存命中率并最小化外部数据流量。当从云端检索缓存失败(数据不在缓存中)时,该设备还使用数据压缩算法(例如压缩和重复数据删除)以及WAN优化软件来提高性能并最大程度地减少延迟。

云存储缓存替代方案

云缓存技术有两种替代方案,它们并不是作为纯本地缓存:

云存储网关就像没有本地存储的缓存设备。它通常部署作为虚拟设备,可作为VM运行,并向本地用户公开NFS和SMB NAS文件协议或块接口(例如iSCSI),并将数据写入云对象存储服务。基于VM服务器上本地存储的低成本以及本地缓存的显着优势,并没有其他产品可以充当纯网关。

分布式文件系统为企业提供类云对象存储的企业部署,可跨多个群集和多个位置。有些产品也可以部署在AWS等云基础架构上,从而使文件系统能够跨越私有和公共资源,并能够在需要时扩展云的额外容量。分布式文件系统提供几乎无限的可扩展性、无中断的容量扩展、静态和传输中数据加密、具有地理分布式复制的高可用性以及针对文件和对象存储的单个全局命名空间。有些产品还包括备份和存档模块,用于定期将数据复制到云存储库,并将未使用的数据或冷数据迁移到低成本的云存储服务,例如Amazon Glacier。

云缓存设备市场和产品

企业正在越来越广泛地部署云服务,这也推动着云存储网关和缓存设备市场不断增长。Zion Research公司估计该市场的销售总额约为30亿美元,并且,正以每年30%的速度增长,到2023年预计将达到近72亿美元。这个市场包括主要云服务提供商;大型企业IT供应商;以及专门从事混合云存储软件的小型公司,例如Ctera Networks和Panzura。

下面列表并不是详尽的产品指南。但是,其中包括流行的云网关缓存产品。

AWS Storage Gateway可以用作虚拟设备或硬件设备,连接本地系统与AWS存储资源。它支持对S3资源的文件(SMB或NFS)、卷(iSCSI)和磁带(虚拟磁带库)访问。该软件设备需要具有四个vCPU,16 GB RAM和80 GB磁盘空间的VM,用于图像和系统数据。该硬件设备是双处理器Dell EMC PowerEdge R640服务器,具有128 GB RAM和四个用于缓存的2 TB SSD

除了AWS Gateway,Dell EMC提供多种混合云存储产品,这包括:

PowerScale OneFS OS CloudPools功能,该功能可将数据分层策略扩展到云服务,以便将不经常访问的数据自动从本地存储迁移。CloudPools支持阿里云、AWS、谷歌云平台(GCP)、Microsoft Azure和Virtustream。

Unity XT All-Flash Unified Storage中端存储阵列具有Unity Cloud Edition虚拟设备,可以在AWS上运行,以将块、文件和VMware Virtual Volumes扩展到云基础架构。微软主要是通过2018年收购Avere和2012年收购StorSimple构建混合存储产品组合。

Avere是云缓存技术的先驱,他们也提供设备用于高性能计算(Azure vFXT)和企业(Azure FXT Edge Filer)工作负载。Edge Filer有两种1U型号-一种具有8 TB SSD缓存,另一种具有两倍的缓存-可以扩展到每个群集24个节点,并提供数百万的IOPS和每秒数百千兆字节的吞吐量。

到2022年,StorSimple将过时,由Avere、Azure File Sync服务或Azure Stack Edge取代。Azure Stack Edge是1U服务器,具有嵌入式现场可编程门阵列,用于AI工作负载加速。它充当通过Azure门户管理的缓存云网关。

Nasuni是分布式对象文件系统,可公开NAS文件协议,并受AWS、Azure、GCP和IBM Cloud支持。它是一种软件产品,通常本地部署在超融合基础架构系统上。

NetApp全局文件缓存基于Talon Fast存储软件—NetApp最近收购该公司。该产品通过本地数据缓存创建全局分布式虚拟文件共享,该本地数据缓存会根据使用模式自动刷新。这个文件缓存与NetApp Cloud Volumes Ontap和Azure NetApp文件结合使用,以提供从内部服务器和边缘客户端到云存储的低延迟访问。

Panzura Freedom是全球性分布式对象文件系统,具有统一命名空间和本地缓存,该缓存可自动跟踪热数据块和冷数据块,以提高缓存性能和效率。其SmartCache策略允许通过固定缓存中的数据来进行自动缓存管理,而不管其访问频率如何。Freedom可作为虚拟软件设备使用,可在AWS、Azure、GCP、IBM Cloud和VMware上运行,也可以作为三种Freedom Filer硬件设备之一,最多可支持28 TB缓存和5,000个用户。

Pure Storage不提供云缓存网关。但是,其云块和对象存储软件可以跨越多个位置,并可以通过虚拟设备扩展到AWS和VMware Cloud基础架构。

StoneFly Smart Cloud Storage Gateway可以作为虚拟设备使用,也可以捆绑StoneFly的SAN或NAS设备。它提供iSCSI SAN、S3兼容对象和NAS存储。该虚拟设备可在裸机服务器和大多数管理程序上运行,并且,该软件和硬件设备均支持AWS、Azure和StoneFly的私有云。邹铮译

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储
    +关注

    关注

    13

    文章

    4693

    浏览量

    89567
  • 算法
    +关注

    关注

    23

    文章

    4760

    浏览量

    97136
  • 应用程序
    +关注

    关注

    38

    文章

    3342

    浏览量

    59920

原文标题:最大化利用云缓存设备和网关

文章出处:【微信号:D1Net11,微信公众号:存储D1net】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    高性能缓存设计:如何解决缓存伪共享问题

    缓存行,引发无效化风暴,使看似无关的变量操作拖慢整体效率。本文从缓存结构原理出发,通过实验代码复现伪共享问题(耗时从3709ms优化至473ms),解析其底层机制;同时深入剖析高性能缓存库 Caffeine 如何通过 内存填充
    的头像 发表于 07-01 15:01 502次阅读
    高性能<b class='flag-5'>缓存</b>设计:如何解决<b class='flag-5'>缓存</b>伪共享问题

    烟气检测仪是如何工作的?工作原理大揭秘

    如何工作的呢? 烟气检测仪的工作原理基于多种检测技术,常见的有电化学传感器技术、红外吸收技术等。 电化学传感器
    发表于 06-16 16:10

    HarmonyOS5服务技术分享--应用预加载提速指南

    建议<500KB 设置合理的缓存过期策略 ​​数据更新策略​​ 使用版本号控制缓存更新 增量更新代替全量加载 写在最后 通过预加载技术,我们实测某电商应用首屏加载速度从1.8s优化至0.4s
    发表于 05-22 20:39

    HarmonyOS5服务技术分享--存储指南

    Hi各位开发者伙伴们!今天咱们来聊一聊HarmonyOS存储的实战玩法,手把手教你实现文件上传、下载、元数据操作等核心功能。无需官方文档的严肃感,咱们用最接地气的方式搞懂这些API怎么用!(文末附
    发表于 05-22 19:17

    HarmonyOS5服务技术分享--缓存快速上手指南

    大家好,今天我们来聊聊如何快速上手华为AppGallery Connect(AGC)的缓存服务。作为一款基于Serverless架构的Key-Value型缓存服务,它不仅能自动弹性伸缩,还能免去运
    发表于 05-22 18:37

    电竞服务器 工作原理

    电竞服务器工作原理详解 一、核心架构原理 虚拟化资源池‌ 通过 ‌KVM/VMware‌ 等虚拟化技术将物理服务器(含NVIDIA GPU集群)抽象为可动态分配的算力资源池,每个用户独享独立虚拟机
    的头像 发表于 05-14 07:44 448次阅读
    <b class='flag-5'>云</b>电竞服务器 <b class='flag-5'>工作原理</b>

    激光雷达(LiDAR)技术方案与工作原理全解析

    系统提供了强大的环境感知支持。本文将深入剖析激光雷达的技术方案与工作原理,带您走进这一前沿传感技术的核心世界。 工作原理:激光束的奇妙探测之旅 激光雷达的
    的头像 发表于 04-25 16:09 1809次阅读
    激光雷达(LiDAR)<b class='flag-5'>技术</b>方案与<b class='flag-5'>工作原理</b>全解析

    微动开关的工作原理

    微动开关的工作原理
    的头像 发表于 04-17 09:00 2718次阅读

    nginx中强缓存和协商缓存介绍

    缓存直接告诉浏览器:在缓存过期前,无需与服务器通信,直接使用本地缓存
    的头像 发表于 04-01 16:01 726次阅读

    栅极技术工作原理和制造工艺

    本文介绍了集成电路制造工艺中的栅极的工作原理、材料、工艺,以及先进栅极工艺技术
    的头像 发表于 03-27 16:07 1698次阅读
    栅极<b class='flag-5'>技术</b>的<b class='flag-5'>工作原理</b>和制造工艺

    什么是太阳能智慧路灯系统?工作原理技术特点及应用场景

    什么是太阳能智慧路灯系统?工作原理技术特点及应用场景
    的头像 发表于 03-24 09:06 1293次阅读
    什么是太阳能智慧路灯系统?<b class='flag-5'>工作原理</b>、<b class='flag-5'>技术</b>特点及应用场景

    红外感应技术工作原理

    不同。根据普朗克辐射定律,温度越高,物体辐射的红外线能量越多。红外线感应器内部设有红外线接收器,其工作原理是通过接收红外线辐射的能量并将其转化为电信号。 红外感应技术的应用 红外感应技术在各个领域都有
    发表于 02-17 18:26

    缓存与不带缓存的固态硬盘有什么区别

    延迟、高可靠性和低噪音等优点,逐渐取代了传统的机械硬盘,成为市场的主流选择。而固态硬盘中的缓存技术,更是提升其性能的关键因素之一。本文将深入探讨固态硬盘的定义、结构、工作原理,以及带缓存
    的头像 发表于 02-06 16:35 4275次阅读

    HTTP缓存头的使用 本地缓存与远程缓存的区别

    HTTP缓存头是一组HTTP响应头,它们控制浏览器和中间代理服务器如何缓存网页内容。合理使用HTTP缓存头可以显著提高网站的加载速度和性能,减少服务器的负载。 1. HTTP缓存头概述
    的头像 发表于 12-18 09:41 814次阅读

    缓存技术在软件开发中的应用

    在现代软件开发中,随着数据量的爆炸性增长和用户对响应速度的高要求,缓存技术成为了提升系统性能的重要手段。缓存技术通过将数据存储在离用户更近的位置,减少数据访问延迟,提高数据处理速度,从
    的头像 发表于 12-18 09:32 1131次阅读