0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

浪潮分布式存储平台AS13000让企业轻松应对海量数据挑战

浪潮存储 来源:浪潮信息 作者:浪潮信息 2022-08-14 14:16 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

随着经济社会加速数字化转型,大数据、云计算人工智能区块链等新一代信息技术快速兴起,智慧政务、金融科技、智慧交通、远程教育、智慧医疗等应用加速落地,包含各种办公文档、图片、视频、音频、设计文档、日志文件、机器数据等的非结构化数据爆发式增长,企业和组织愈发重视海量非结构化数据的管理与应用。如何依靠底层技术让海量非结构化数据的管理和使用更简单?无处不在的元数据给出了答案。

什么是元数据?

元数据是关于数据的数据,人们身边的一切信息和资源都可以用数据来描述,元数据则是从数据资源中抽取用来说明其特征和内容的结构化数据,用于组织、管理、保存、检索信息和资源。虽然人们看不见元数据的存在,但它却无时无刻不伴随左右。人们平时所津津乐道的大数据,也是基于元数据来计算的。

企业和组织用户可以基于元数据对海量非结构化数据进行管理,例如获取后缀名为jpeg的所有图片文件列表、获取文件大小大于10M的文件列表、获取给定日期之前创建的文件列表,在快速获取符合条件的文件之后高效管理对应的数据。而如何更方便快捷地查找到非结构化的文件成为了分布式存储全新的挑战。

原始的数据检索方式较为简单粗暴,难以应对文件多、目录层次深、检索条件复杂等问题。例如Linux中的find查找,对象存储中的前缀检索,都只能遍历所有文件进行筛选。功能上不能满足多样化的检索需求,检索字段有限,检索方式单一;性能上也挑战了底层元数据管理服务的检索能力和检索效率。

浪潮分布式存储基于对元数据检索的研究,在分布式存储平台AS13000上进行技术创新,在对象、文件、大数据三大非结构化存储场景,研发了元数据检索功能。支持对文件名称、路径、类型、大小、自定义元数据、创建时间、修改时间、用户(组)、桶等关键字段进行检索,支持基础检索和逻辑关系自定义等高级检索功能。百亿级文件,亚分钟级检索。

浪潮分布式存储

元数据检索的四大优势

浪潮分布式存储AS13000元数据检索能够同时兼容对象、文件、大数据三大非结构化存储场景,引入Elasticsearch作为元数据检索引擎,支持NFS、CIFS、S3、Swift、HDFS协议。

Elasticsearch是一个可扩展的RESTful风格的分布式数据检索和分析引擎,它能够快速且近实时地存储、检索、分析海量数据,通常用作具有复杂检索应用的底层引擎。传统的分布式存储+Elasticsearch,即为浪潮分布式非结构化存储AS13000元数据检索的核心。

文件的元数据信息会同步至Elasticsearch引擎中,基于此,用户的元数据检索命令通过协议转换,在Elasticsearch中检索出符合要求的文件信息,返回给用户。

比如,浪潮分布式存储具有更全面的协议支撑。浪潮分布式存储AS13000能够同时支持NFS、CIFS、S3、Swift、HDFS协议进行检索;同时支持客户自己的RESTful风格访问程序进行自定义元数据信息检索。

又如,具备更灵活便捷的检索方式。基于上述的结构,浪潮分布式存储AS13000支持了更为丰富的检索手段和快捷的检索速度,对数据存储本身的读写影响更小。支持的检索内容包括两个方面,其一,丰富的检索字段,包括文件名称、路径、类型、大小、创建时间、最后修改时间、用户名、用户组名、桶名,以及用户自定义的元数据信息,都可以作为检索字段。其二,多样的检索逻辑;支持大于、大于等于、小于、小于等于、不等于、等于等算术比较运算符,逻辑支持“并且”“或者”等逻辑运算符。企业可以根据需求在检索界面上进行检索式的组装,且检索结果支持分页展示。

再如,更安全的元数据保护。为了保护用户的元数据信息,避免非法的RESTful请求恶意获取Elasticsearch中的元数据信息,浪潮分布式存储AS13000同时针对Elasticsearch进行了安全限制,针对Elasticsearch提供 数据流加密,同时基于角色进行访问安全校验,保障元数据信息的网络安全。

最后,更便捷的对接方式。浪潮分布式存储AS13000不仅自身能够提供元数据检索服务,同时能够轻松对接客户的Elasticsearch引擎。如果客户原本就有元数据检索引擎,则可以直接部署浪潮分布式存储,对接客户的Elasticsearch,不需要客户更改原本的检索手段,实现无缝切换。

具备元数据检索功能的浪潮分布式非结构化存储AS13000,已经在金融、通信、教科研、医疗等行业规模部署。为企业提供更简单、更丰富、更便捷的元数据检索方式,让企业轻松应对数字经济时代的海量数据挑战。

审核编辑:汤梓红

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储
    +关注

    关注

    13

    文章

    4893

    浏览量

    90292
  • 浪潮
    +关注

    关注

    1

    文章

    490

    浏览量

    25487
  • 元数据
    +关注

    关注

    0

    文章

    33

    浏览量

    9374

原文标题:浪潮分布式存储:元数据检索的四大优势

文章出处:【微信号:inspurstorage,微信公众号:浪潮存储】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    2022全新版!Java分布式架构设计与开发实战(完结)

    2022全新版!Java分布式架构设计与开发实战(完结) 分库分表实战:Java海量数据存储架构设计 在现代互联网应用中,随着业务规模的指数级增长,
    发表于 03-30 15:20

    TiDB分布式数据库运维实践

    TiDB 是 PingCAP 开发的开源分布式关系型数据库,兼容 MySQL 5.7 协议,底层存储基于 TiKV(分布式 KV 存储)和
    的头像 发表于 03-04 15:44 287次阅读

    分布式 IO 选型注意事项

    在工业 4.0 浪潮推动下,分布式 IO 作为工业互联的核心底层设备,已成为制造业实现设备互联、数据采集、柔性生产的关键支撑。本文将助力企业避开选型误区,最大化发挥
    的头像 发表于 12-30 14:14 524次阅读
    <b class='flag-5'>分布式</b> IO 选型注意事项

    【节能学院】Acrel-1000DP分布式光伏监控系统在奉贤平高食品 4.4MW 分布式光伏中应用

    摘要:在“双碳”和新型电力系统建设背景下,分布式光伏接入比例不断提高,对配电网电压、调度运行及调峰等环节造成强烈冲击。本文设计包含平台层、设备层二层架构体系的分布式光伏管控平台,以及小
    的头像 发表于 08-23 08:04 3665次阅读
    【节能学院】Acrel-1000DP<b class='flag-5'>分布式</b>光伏监控系统在奉贤平高食品 4.4MW <b class='flag-5'>分布式</b>光伏中应用

    AcrelCloud-1200 分布式光伏运维云平台 用于居民屋顶光伏发电

    光伏电站,确保其稳定、安全运行,成为企业亟待解决的问题。安科瑞电气推出的AcrelCloud-1200分布式光伏运维云平台,凭借其良好的性能和丰富的功能,为企业
    的头像 发表于 08-05 10:48 1178次阅读
    AcrelCloud-1200 <b class='flag-5'>分布式</b>光伏运维云<b class='flag-5'>平台</b> 用于居民屋顶光伏发电

    多电站监管不再难!分布式光伏运维云平台的破局之道

    管理方面面临着诸多难题。如何管理分布式光伏电站,确保其稳定、安全运行,成为企业亟待解决的问题。安科瑞电气推出的AcrelCloud-1200分布式光伏运维云平台,凭借其良好的性能和丰富
    的头像 发表于 08-04 16:14 891次阅读
    多电站监管不再难!<b class='flag-5'>分布式</b>光伏运维云<b class='flag-5'>平台</b>的破局之道

    一键部署无损网络:EasyRoCE助力分布式存储效能革命

    分布式存储的性能瓶颈往往在于网络。如何构建一个高带宽、超低时延、零丢包的无损网络,是释放分布式存储全部潜力、赋能企业关键业务(如实时
    的头像 发表于 08-04 11:34 1822次阅读
    一键部署无损网络:EasyRoCE助力<b class='flag-5'>分布式</b><b class='flag-5'>存储</b>效能革命

    安科瑞分布式光伏监控系统:赋能园区企业光伏用电智能化管理

    维成本,成为了园区企业面临的重要挑战。安科瑞分布式光伏监控系统应运而生,为园区企业提供了一套全面、智能的光伏用电管理解决方案。(18721098782----安科瑞) 系统架构:分层
    的头像 发表于 07-30 15:57 941次阅读
    安科瑞<b class='flag-5'>分布式</b>光伏监控系统:赋能园区<b class='flag-5'>企业</b>光伏用电智能化管理

    分布式光伏气象站:光伏电站的 “智慧气象管家”

    气象条件的左右,太阳辐射强度、温度、湿度、风速等气象因素,时刻影响着光伏电站的产能表现。为了帮助光伏电站更好地应对气象挑战,优化运行策略,提升发电效率,分布式光伏气
    的头像 发表于 07-22 11:42 902次阅读
    <b class='flag-5'>分布式</b>光伏气象站:光伏电站的 “智慧气象管家”

    Ceph分布式存储系统解析

    在当今数据爆炸的时代,企业存储系统的需求日益增长,传统的集中式存储已经无法满足大规模数据处理的要求。
    的头像 发表于 07-14 11:15 1225次阅读

    分布式设备管理平台有哪些功能?哪个好用?

    在数字化浪潮中,分布式设备管理平台成为各行业提升设备管理效率、优化运维流程的关键工具。这类平台不仅能够对分布广泛、类型多样的设备进行集中管控
    的头像 发表于 07-07 17:07 942次阅读
    <b class='flag-5'>分布式</b>设备管理<b class='flag-5'>平台</b>有哪些功能?哪个好用?

    分布式IO选型指南:2025年分布式无线远程IO品牌及采集控制方案详解

    。2025年,分布式IO市场呈现出技术革新与品牌竞争加剧的态势。本文基于权威数据平台(如Statista、MarketsandMarkets、Grand View Research)的市场分析,全面解读
    的头像 发表于 06-23 09:48 1473次阅读

    润和软件发布StackRUNS异构分布式推理框架

    当下,AI模型规模持续膨胀、多模态应用场景日益复杂,企业正面临异构算力资源碎片化带来的严峻挑战。为应对行业痛点,江苏润和软件股份有限公司(以下简称“润和软件”)正式发布自主研发的StackRUNS异构
    的头像 发表于 06-13 09:10 1599次阅读
    润和软件发布StackRUNS异构<b class='flag-5'>分布式</b>推理框架

    华为分布式存储荣膺2025年Gartner“客户之选”

    近日,全球权威咨询与分析机构Gartner发布《2025年Gartner Peer Insights文件与对象存储平台“客户之声”》报告,华为OceanStor分布式存储再次登顶,连续
    的头像 发表于 06-07 09:13 1603次阅读

    曙光存储领跑中国分布式存储市场

    近日,赛迪顾问发布《中国分布式存储市场研究报告(2025)》,指出2024 年中国分布式存储市场首次超过集中式存储,规模达 198.2 亿元
    的头像 发表于 05-19 16:50 1458次阅读