0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

破解AI带来的数据存储挑战,西部数据是如何做的?

焦点讯 来源:焦点讯 作者:焦点讯 2024-02-01 09:39 次阅读

在数智化时代,“数据”算得上是绝对的“C位”......

作为一种重要的生产要素,数据在规模化激增的同时,其价值也正在得到释放:新近印发的《“数据要素×”三年行动计划(2024—2026年)》提出,到2026年底,数据要素应用广度和深度大幅拓展,在经济发展领域数据要素乘数效应得到显现;以ChatGPT为代表的大模型持续火热,在带动算力,尤其是智能算力需求爆发的同时,也带来了用于大模型训练与大模型推理的海量大数据的需求。

这也仅仅是数据价值得到释放的案例之一。而随着AI大模型的进一步发展和普及,数据的规模将持续扩大,数据的价值还将得到进一步释放。在人工智能领域,西部数据认为,数据的质量与数量决定了人工智能的整体水平。然而,笔者注意到,大模型训练、推理所需的算力基础设施除了提供算力、运力等资源外,还需要提供存力,也就是数据存储力,这对数据存储的性能、容量、成本以及能耗提出新的要求。

“木桶效应”里,数据存力不做“短板”

算力、数据、算法是支撑AI大模型落地的三大要素,在大模型爆发初期,企业普遍将注意力放在价格高昂、供不应求的智能算力上,容易被忽略的数据存力同样起着至关重要的作用。事实上,大模型的训练与推理需要依托计算芯片、存储与网络共同构成的大规模算力集群,这其中,算力、存力、运力都不应该成为“木桶效应”的“短板”。

事实上,算力集群也是存在短板效应的,假如存储和网络无法支撑大规模数据存储、读写与传输,即使计算芯片的性能再强,也不会有用武之地,同时还会影响大模型训练的效率。之所以这样说是有原因的,相关调查显示,大模型场景对于数据存力有着高吞吐、高IOPS、高带宽、低延时的极致性能需求。如若存储性能达不到要求,会使得数据存力成为“短板”。

西部数据进一步指出,目前AI应用场景的存储架构主要建立在分层存储、存算分离的基础上,整套数据存储架构必须同时满足容量、性能、成本以及能耗的多样化要求,搭配多样化的产品组建数据存储基础设施。下面,笔者也将从大模型训练的数据所拥有的特征来验证西部数据的这一观点。

我们需要承认的事实是,大模型训练所需的数据规模是庞大的:以文档、图片、音视频为代表的非结构化数据,其规模可以达到几亿至几十亿量级;从纯文本的TB级到多种数据类型的PB级都需要占据大量的存储空间。

因此,海量数据需要存储系统支持高吞吐、大容量,同时支持多种协议数据互通,让数据能够快速地在各个环节流转,避免数据等待产生算力闲置的状况。

大模型训练对存储带宽也是有要求的,据悉,大模型训练存储带宽的要求比电商业务顶峰时段高出几百甚至几千倍,存储性能的高低可能造成模型训练周期数倍的差异。此外,大模型落地的成本也是关注的焦点,千亿级别参数、动辄以月来计算的训练周期,意味着极大的存储成本,降低成本成为关键所在。

破解存力短板,西部数据有哪些解决方案?

满足AI时代数据存储的需求,存储解决方案提供商需要从容量、性能、成本、能耗等方面出发,打造多样化、差异化的解决方案。西部数据以企业部署AIGC应用工作负载为例,对其所需的存储解决方案进行说明。西部数据认为,未来,以AIGC为代表的先进数字化应用产生的以存为主、低频使用且价值不太明显的非结构化数据的价值挖掘也将成为企业中的关键性问题。

西部数据预计,高效可靠地进行海量非结构化数据的存储和分析,将成为企业数据治理的一个重要考量。面对AI大模型的进一步发展和普及,西部数据将继续凭借在存储领域的多年积累和核心优势,提供多样化的数据存储解决方案和产品,为AI大模型进一步发展提供数据存储基础架构的坚实底座。具体来看,西部数据所提供的低时延、更高IOPS的SSD产品和大容量满足更低TCO和功耗的HDD产品能够为相关基础设施建设提供存储解决方案支持。

在Flash领域,西部数据打造的企业级SSD拥有三大核心技术优势,也就是集成完全自主的NAND Flash、先进的SSD控制器和高性能固件于一体,这样集成能够让SSD实现性能和稳定性的极致优化,确保SSD生命周期稳定的I/O一致性。同时,西部数据携手铠侠成功地推出第八代218层3D闪存,在性能、密度和成本效益方面实现了重大飞跃。西部数据还提供包括SN840、SN650、SN655在内的针对不同需求的企业级SSD产品,从而满足丰富多样的应用需求。

而在HDD领域,西部数据借助创新的OptiNAND技术、能量辅助磁记录(ePMR)、三阶寻轨定位系统(TSA)、氦气封装(HelioSeal)以及全新的UltraSMR技术,能够更好地帮助云服务客户降低存储总体拥有成本(TCO),从而持续、快速地扩展业务。同时,由于在面密度技术上的独特优势,西部数据能够更好地帮助客户获得更低的每TB容量功耗,帮助数据中心客户提高PUE(电源使用效率)。

HDD产品上,西部数据可提供容量高达24TB 的Ultrastar DC HC580 CMR HDD、及28TB 的Ultrastar DC HC680 SMR HDD。据了解,UltrastarDC HC680 SMR HDD为超大规模云、云服务提供商和企业级客户提供了更高的存储密度,广泛应用于大容量存储、在线备份、智慧视频、在线归档、云存储、合规性存储、大数据存储以及其他可能不常访问数据的应用。

西部数据透露,自2023年8月出样以来,28TB SMR HDD正在快速进入市场,它将进一步增强西部数据在SMR HDD市场的地位与发展势头。公司2024财年第1季度,西部数据26TB SMR HDD总出货量将达到其数据中心产品总出货量的近50%。

携手合作伙伴,打造AI时代的存储方案

数据存储离不开合作伙伴,西部数据一直以来积极与合作伙伴在产品、技术和市场方面持续合作。在产品上,西部数据积极地与重要的软件开发商、云服务提供商都在做进一步方案系统升级的优化合作,并将最新的技术和产品交付样品给合作伙伴做联合测试,持续优化可能存在的问题,最终打造出符合合作伙伴和市场需要的解决方案。

比如,越来越多的客户将SMR添加到其数据中心发展路线之中,通过优化堆栈以发挥SMR技术的优势。因此,这些客户还可以通过采用目前市场上更大容量的HDD产品,以更低的功耗扩展产品组合部署,从而在上市速度方面持续保持优势。

据悉,西部数据UltrastarDC HC680已由部分超大规模云、云服务提供商和OEM客户进行验证,西部数据也希望以较低的每TB功耗,想要获得更大存储容量的大型企业级客户供货,用以构建更高效的存储系统和数据中心。

此外,西部数据还在上海浦东打造了西部数据解决方案赋能中心,以此来支持企业级、OEM客户进行产品与解决方案的测试,进一步支持本土市场。

除了合作伙伴,用户的反馈也是至关重要的。在西部数据看来,存储技术的发展离不开每一位应用和创造出数据的用户。为此,西部数据将持续聆听市场的声音和用户的反馈,不懈地创新、共同地开发满足未来存储需求的产品和解决方案。

面向未来,西部数据透露,也将积极地与行业内的头部云服务商、OEM以及其他合作伙伴保持紧密的合作关系,通过帮助部署西部数据创新的企业级存储产品,打造符合当前AI技术快速增长、多元AI应用不断涌现时代下的存储解决方案,进一步赋能新型计算与绿色算力的发展。

写在最后

如今的AI赛道可谓异常火热,这种火热不仅是端侧的大模型数量与规模的持续扩大,也不仅是大模型的训练与推理带来的智能算力的需求,同时还是AI持续赋能云、网、边、端的持续升级。而在这场关于AI赋能的竞赛中,我们不可否认的是,AI在带来新的机遇的同时也带来挑战,这包括算力、大模型质量、安全,这也包括数据存储。

换言之,随着AI的迅猛发展,数据存储需求的持续增加正在成为一个不可忽略的事实。据统计,AI服务器所需的DRAM和NAND闪存容量分别是常规服务器的8倍和3倍。这也意味着存储系统必须具备足够的容量来存储海量的训练数据和模型参数,以支持人工智能应用的高性能运行。

在这个背景下,我们看到以西部数据为代表的存储解决方案厂商充分整合积累的专业技术能力与各行业的合作经验,通过技术创新、解决方案的持续打造、与合作伙伴持续深入地合作和赋能,持续提供针对AI应用领域存储需求的定制化解决方案,为AI时代贡献着自己的力量。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储
    +关注

    关注

    12

    文章

    3856

    浏览量

    84661
  • 数据存储
    +关注

    关注

    5

    文章

    895

    浏览量

    50584
  • 西部数据
    +关注

    关注

    5

    文章

    488

    浏览量

    45719
收藏 人收藏

    评论

    相关推荐

    江波龙携手西部数据深化合作,共探AI移动终端存储新机遇

    在近日举行的中国闪存市场峰会(CFMS2024)上,江波龙宣布与西部数据进一步加强合作关系,共同挖掘并支持下一代基于人工智能的移动终端存储和应用市场的广阔机遇。
    的头像 发表于 03-26 09:49 211次阅读

    聚焦AI、汽车和PC应用新需求,西部数据携旗舰存储产品亮相CFMS峰会

    作为领先的数据存储解决方案提供商,西部数据公司参加了CFMS 2024峰会,现场以“为存储加速:从数据中心到边缘”为核心主题的展台吸引了众多
    的头像 发表于 03-25 14:34 1566次阅读
    聚焦<b class='flag-5'>AI</b>、汽车和PC应用新需求,<b class='flag-5'>西部数据</b>携旗舰<b class='flag-5'>存储</b>产品亮相CFMS峰会

    江波龙与西部数据拓展业务合作

    江波龙携手西部数据,在CFMS2024峰会上共同宣布将加强业务合作,共同迎接基于人工智能的移动终端存储和应用市场的新机遇。经过长期的默契配合,双方决定进一步深化合作,致力于为大中华地区的手机市场带来最前沿的定制化嵌入式
    的头像 发表于 03-22 10:58 270次阅读

    江波龙与西部数据拓展业务合作,共同助力大中华区手机存储市场

    日在CFMS2024上宣布与西部数据加强合作关系,积极探索并共同支持下一代基于人工智能的移动终端存储和应用的市场机遇。   在双方长期合作的基础上,江波龙和西部数据将进一步深化业务合作,为大中华地区(包括中国大陆、港澳台地区)
    发表于 03-21 15:14 110次阅读

    江波龙与西部数据拓展业务合作,共同助力大中华区手机存储市场

    日在CFMS2024上宣布与西部数据加强合作关系,积极探索并共同支持下一代基于人工智能的移动终端存储和应用的市场机遇。在双方长期合作的基础上,江波龙和西部数据将进一步
    的头像 发表于 03-21 08:19 112次阅读
    江波龙与<b class='flag-5'>西部数据</b>拓展业务合作,共同助力大中华区手机<b class='flag-5'>存储</b>市场

    西部数据分拆存储业务:闪存与传统硬盘的分离

    自2021年起,西部数据及合作方铠侠一直着手探讨合并事宜,以便共同掌控占据全世界NAND闪存市场三分之一份额的市场份额。然而,2023年10月的合并协商陷入停滞,此后西部数据宣布,他们将逐步剥离受供应过盛所困的闪存业务
    的头像 发表于 03-06 16:57 312次阅读

    春日有礼,西部数据和“她”一起开启存储焕新计划

    每一个女孩都是独特而美丽的存在,享受生活的同时不忘记录那些难忘的瞬间。3.8春季大促,西部数据带来了令人怦然心动的存储购物清单,助力每一位“她”记录生活亮点,高效应对职场与学习。还不快拿上小本
    的头像 发表于 03-04 15:57 251次阅读
    春日有礼,<b class='flag-5'>西部数据</b>和“她”一起开启<b class='flag-5'>存储</b>焕新计划

    AI大模型加速落地! 西部数据助力数据中心智能化升级

    面对AI大模型的发展和普及,西部数据作为全球数据存储解决方案提供商,如何看待这种浪潮到来,生成式AI技术发展对现有基础设施部署工作
    的头像 发表于 02-18 00:03 4061次阅读
    <b class='flag-5'>AI</b>大模型加速落地! <b class='flag-5'>西部数据</b>助力<b class='flag-5'>数据</b>中心智能化升级

    多样需求大满足!西部数据年终好价存储好物请查收

    临近年末,“年终好价节”等购物节盛大来袭。各种折扣优惠和产品推荐让人眼花缭乱,无从下手。至此,西部数据带来存储“全家桶”,一站式选购清单,省时省力,贴心地“手把手”教大家选择适合自己的存储
    的头像 发表于 12-01 16:12 216次阅读
    多样需求大满足!<b class='flag-5'>西部数据</b>年终好价<b class='flag-5'>存储</b>好物请查收

    数据驱动未来,西部数据汽车技术论坛2023成功举办

     11月9日,由全球知名数据存储设备制造商西部数据主办、以“数据驱动未来:车载存储的新机遇和新挑战
    的头像 发表于 11-15 17:27 497次阅读
    <b class='flag-5'>数据</b>驱动未来,<b class='flag-5'>西部数据</b>汽车技术论坛2023成功举办

    多样存储需求好解决,双十一西部数据帮你选

    ,很多消费者也在等待大促活动来直抵最低价。西部数据也在此次双十一活动中携带超值优惠如约而至,尤其是旗下备受玩家瞩目的游戏类存储产品,为各位想趁着大促升级硬件的朋友们带来好礼。我们整理了此次西部
    的头像 发表于 11-10 09:01 209次阅读

    西部数据公司推出全新存储解决方案,助力消费者捕捉和留存更多内容

    2023年10月19日,上海 –西部数据公司今日宣布旗下屡获殊荣的闪迪™品牌正式推出一系列创新存储解决方案,针对在家或在途等各类使用场景,满足消费者更高的存储容量需求。在回忆与经历都被数字化保存的当
    的头像 发表于 10-19 17:31 294次阅读
    <b class='flag-5'>西部数据</b>公司推出全新<b class='flag-5'>存储</b>解决方案,助力消费者捕捉和留存更多内容

    铠侠、西部数据将共同设立一家控股公司“KIOXIA Holdings”

    报道指出,铠侠、西部数据将共同设立一家控股公司“KIOXIA Holdings”,西部数据存储芯片业务和铠侠都将收编在这家控股公司旗下,虽然以企业价值为基础的合并比重来看,铠侠占63%、西部
    的头像 发表于 10-17 15:27 539次阅读

    西部数据携旗下全方位影视制作存储解决方案亮相BIRTV 2023

    2023年8月23日,北京– 西部数据公司将携旗下闪迪大师及闪迪品牌亮相第三十届北京国际广播电影电视展览会(BIRTV 2023)。在本届以“融合创新,面向未来”为主题的广播影视技术盛会上,西部数据
    的头像 发表于 08-23 13:04 408次阅读

    西部数据交易中心上线全国首个汽车数据交易专区

    为助力数字重庆建设,西部数据交易中心通过技术创新、模式创新,积极打造具有重庆辨识度和全国影响力的数据要素价值化创新应用,促进数字经济发展,赋能实体经济。6月29日,西部数据交易中心正式上线全国首个
    的头像 发表于 06-29 15:13 352次阅读
    <b class='flag-5'>西部数据</b>交易中心上线全国首个汽车<b class='flag-5'>数据</b>交易专区