0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

智慧有数 浪潮信息发布生成式AI存储解决方案

全球TMT 来源:全球TMT 作者:全球TMT 2023-07-11 09:46 次阅读

当前,生成式AI(AIGC)已经成为AI产业化发展的主战场,随着大模型参数量和数据量的爆发式增长,多源异构数据的传、用、管、存,正在成为制约生成式AI落地的瓶颈之一。为了化解生成式AI的数据存储与管理瓶颈,浪潮信息在"数智未来"AIGC数据应用创新论坛上,正式发布面向生成式AI的存储解决方案,该方案以极致融合、极致性能、极致节能,和热温冷冰四级数据全生命周期管理,助力开启生成式AI新局面,创造智慧时代新机遇。

生成式AI亟待突破多源异构和存储性能瓶颈

生产式AI是人工智能从1.0时代进入2.0时代的重要标志,其具备强大的认知智能,在搜索引擎、艺术创作、影音游戏,以及金融、教育、医疗、工业等领域有着广阔的应用前景。Gartner预测,到2023年将有20%的内容被AIGC所创建;到2025 年人工智能生成数据占比将达到10%。据分析师预测,到2032年,生成式人工智能市场规模将达到2,000亿美元,占据人工智能支出总额的约20%,显著高出当前的5%。换言之,未来十年市场规模可能每两年就会翻一番。

生成式AI主要应用场景涵盖文本生成、语音生成、图片生成、视频生成、代码生成、虚拟人生成等,在每种应用的背后是基于行业上下游对数据进行采集、标注、训练、推理、归档,其特征是数据量大、多元数据类型复杂、服务协议多样、性能要求苛刻、要求服务持续在线。生成式AI对数据存储提出如下挑战:

异构数据的融合:生成式AI训练模型的数据呈现来源多、格式多的多源异构现状,传统存储面向单一数据类型设计,需要以搬移数据的方式实现多协议访问,存储成为应用平台的关键瓶颈;

持续的低延迟与高带宽:模型训练过程中,频繁地从数据集取Token,每个Token一般4字节,实时高并发小IO性能需要极低的延迟;存储模型Checkpoint时,为Checkpoint数据可快速写入,需要高带宽;

EB级大容量存储需求:越多的数据投喂结果越精准的工作原理,决定了大模型训练存在深度学习网络层数多、连接多、参数和数据集种类复杂、数据量大的特征,随着模型参数和数据量的快速增长,对于存储的大容量和扩展需求也迫在眉睫。

数据存储产业需要进行全方位的技术升级,通过在多源异构融合、数据高速传输、海量数据管理等方面持续创新,打造专业的生成式AI存储产品与解决方案。

浪潮信息让生成式AI智慧有数

浪潮信息是最早布局大模型的企业之一,打造了算力、算法、数据全栈的解决方案能力。在数据存储领域,浪潮信息准确识别行业痛点、积极布局,经过持续攻关,在融合存储架构、系统性能设计、数据全生命周期管理算法等方面不断突破,打造出生成式AI存储解决方案。

浪潮信息生成式AI存储解决方案基于AS13000融合存储系统,可以支撑AIGC产业上中下游业务应用,并针对不同业务阶段的数据存储需求,提供热温冷冰四级存储,实现数据在各级存储间自动流转。用高性能节点形态来满足数据训练、数据推理两个阶段的高带宽、低延时、高并行读写性能存储需求,用大容量节点形态来满足数据采集、数据准备、数据归档三个阶段的海量多元数据存储需求,方案具备极致融合、极致性能、极致节能三大能力,以及热、温、冷、冰四级数据全生命周期存储管理能力,助力生成式AI突破海量数据存力瓶颈,加速释放数据的价值。

极致融合。为了应对不同模态的多样性需求,浪潮信息提出"协议互通、数据融合"设计理念,一个集群内支持多个存储池,一个存储池内支持文本、图片、音频、视频等多种类型数据存储,一份数据又可以被前端不同业务场景同时以文件、对象、大数据、视频四种存储协议进行并行访问。用一套存储实现支持多模态场景应用,免除了数据跨应用时的复制,实现真正意义上非结构化数据的协议互访互通,让数据融合。

极致性能。AIGC场景数据类型多样化,文件大小不一、数量多,且读写频繁,对存储系统的百GB级高带宽、百万级IOPS需求成了常态。浪潮信息在软件方面,通过数控分离架构减少东西向数据量的转发,通过GDS、RMDA技术缩短I/O路径,通过SPDK、缓存零拷贝技术减少I/O路径上的数据拷贝,以及基于自研NVMe SSD开发的盘控协同技术,减少I/O访问SSD盘的次数,使存储性能得到进一步释放。在硬件方面,优化IO路径通道,均衡IO路径,最大化发挥硬件性能,全闪单节点带宽超过50GB/s,IOPS超过50万;此外,创新性地引入双控全闪节点,带宽超100GB/s,IOPS超100万,真正使系统具备千万级IOPS、EB级带宽,充分满足AIGC场景对存储系统的苛刻要求。

极致节能。浪潮信息近期最新发布了G7硬件平台,存储专用的液冷服务器涵盖性能型和容量型,且均采用模块化冷板组件设计模式。在系统方案层面,浪潮信息具有风液式、液液式等完善的端到端解决方案,能够为用户全方位打造液冷数据中心交钥匙工程,并且完成了业界首次液冷整机柜批量交付,实现PUE<1.1。

端到端的数据全生命周期管理。除了三大"极致"能力之外,得益于"资源互通、管理融合"的设计理念,浪潮生成式AI存储方案基于闪存、磁盘、磁带、光盘四种介质提供热温冷冰四种存储资源,通过资源互通实现数据全生命周期管理。基于数据的热度识别,自动释放在线存储空间,可以将海量数据自动归档到光盘库,降低长期存储成本;实现冷数据的分钟级快速回调,满足0~4级应用的存储需求。四种介质、四类存储节点,提供热温冷冰自动流转,满足各类应用的灵活配置需求,通过性能型、均衡型、容量型、高密容量型四种机型的按需灵活配置,进一步降低整体投入。

目前,浪潮信息生成式AI存储解决方案已经在全球领先的中文语言大模型"源1.0"中成功落地,面对千亿级参数量和数据量带来的挑战,浪潮信息通过AS13000高吞吐并行存储系统实现了多存储协议互通、数据融合,利用全闪的极致性能,助力"源1.0"大模型实现了16天完成训练的超高效率。国内AI独角兽公司采用浪潮信息提供的并行文件存储,承载5000亿参数量的NLP语言类大模型的数据集Token和CheckPoint文件,轻松应对大/小文件的读写挑战,配置AS13000全闪存储集群,支持高性能RocE组网和GPU直通存储功能,带宽超过300GB、存储性能超过350万 IOPS,保证存储集群的高可用与敏捷扩容。

面对生成式AI掀起的变革热潮,谁能掌握数字化变革的先机,谁就能把握未来AI革命的致胜关键,而数据底座将成为千行百业创新变革的重要基石。浪潮信息存储秉承"存储即平台"的产品理念,精耕数据存储产品与解决方案,携手合作伙伴,助力生成式AI在金融虚拟客服、图片编辑设计、智能驾驶、跨模态检索等场景的落地,激活数据要素新潜能,驾驭智慧化转型新趋势,在机遇与挑战并存的新格局下,为行业转型注入新价值、新动能。

审核编辑:汤梓红

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 存储
    +关注

    关注

    12

    文章

    3860

    浏览量

    84671
  • 浪潮
    +关注

    关注

    1

    文章

    404

    浏览量

    23576
  • AI
    AI
    +关注

    关注

    87

    文章

    26464

    浏览量

    264090
  • 生成式AI
    +关注

    关注

    0

    文章

    354

    浏览量

    224
收藏 人收藏

    评论

    相关推荐

    浪潮信息发布企业大模型开发平台&quot;元脑企智&quot;EPAI,加速AI创新落地

    北京2024年4月18日 /美通社/ -- 4月17日,在2024浪潮信息生态伙伴大会(IPF2024)上,浪潮信息发布企业大模型开发平台"元脑企智"EPAI(Enterprise Platform
    的头像 发表于 04-18 21:21 147次阅读
    <b class='flag-5'>浪潮信息</b><b class='flag-5'>发布</b>企业大模型开发平台&quot;元脑企智&quot;EPAI,加速<b class='flag-5'>AI</b>创新落地

    浪潮信息发布企业大模型开发平台“元脑企智”EPAI

    4月17日,在2024浪潮信息生态伙伴大会(IPF2024)上,浪潮信息重磅发布企业大模型开发平台“元脑企智”EPAI(Enterprise Platform of AI),为企业
    的头像 发表于 04-18 10:12 115次阅读
    <b class='flag-5'>浪潮信息</b><b class='flag-5'>发布</b>企业大模型开发平台“元脑企智”EPAI

    浪潮信息推出全球首个单存储即可支持16节点的SAP HANA集群方案

    近日,浪潮信息成功实现并推出全球首个单存储即可支持16节点的SAP HANA集群方案,全闪存储HF5000系列作为该方案的数据
    的头像 发表于 04-01 10:03 151次阅读

    浪潮信息澎湃认证:浪潮信息集中式存储携手仪电云i-stack云操作系统软件完成兼容性认证

    近日, 仪电云i-stack云操作系统软件与浪潮信息集中式存储AS/HF系列产品完成并通过浪潮信息澎湃技术相互兼容性测试认证, 测试结果显示,仪电云i-stack云操作系统软件与浪潮信息
    的头像 发表于 12-08 16:40 336次阅读
    <b class='flag-5'>浪潮信息</b>澎湃认证:<b class='flag-5'>浪潮信息</b>集中式<b class='flag-5'>存储</b>携手仪电云i-stack云操作系统软件完成兼容性认证

    浪潮信息刘军:智算力系统创新 加速生成AI产业发展

    北京2023年12月6日 /美通社/ -- 11月29日,在北京举行的2023人工智能计算大会(AICC)上,浪潮信息高级副总裁刘军在主题演讲《智算力系统创新 加速生成AI产业发展》中分享了
    的头像 发表于 12-06 14:08 545次阅读
    <b class='flag-5'>浪潮信息</b>刘军:智算力系统创新 加速<b class='flag-5'>生成</b>式<b class='flag-5'>AI</b>产业发展

    数聚AI智慧未来 | 浪潮信息存储助力企业基于大模型实现数字化创新

    ,更好地帮助企业实现数字化创新? 11月29日,由DOIT传媒举办的“数智创新 · AI未来”—2023中国数据与存储峰会在北京成功举办,浪潮信息存储产品线副总经理刘希猛和分布式
    的头像 发表于 11-30 16:25 220次阅读
    数聚<b class='flag-5'>AI</b> ∙ <b class='flag-5'>智慧</b>未来 | <b class='flag-5'>浪潮信息</b><b class='flag-5'>存储</b>助力企业基于大模型实现数字化创新

    智慧经济时代,浪潮信息存储智慧世界构筑数据基石

    11月12日,第八届中国数据分析行业峰会在京举办,浪潮信息亮相峰会并发表《数据要素驱动智慧时代》主题演讲。在数据的采传用管存销六个环节中,数据基础设施发挥着重要作用,浪潮信息存储业务的
    的头像 发表于 11-17 16:55 197次阅读
    <b class='flag-5'>智慧</b>经济时代,<b class='flag-5'>浪潮信息</b><b class='flag-5'>存储</b>为<b class='flag-5'>智慧</b>世界构筑数据基石

    浪潮信息澎湃认证:浪潮信息集中式存储携手达梦数据库管理系统V8完成兼容性认证

    近日, 达梦数据库管理系统V8与浪潮信息集中式存储AS/HF系列产品完成并通过浪潮信息澎湃技术相互兼容性测试认证 ,测试结果显示,达梦数据库管理系统V8与浪潮信息集中式
    的头像 发表于 09-27 17:10 378次阅读
    <b class='flag-5'>浪潮信息</b>澎湃认证:<b class='flag-5'>浪潮信息</b>集中式<b class='flag-5'>存储</b>携手达梦数据库管理系统V8完成兼容性认证

    再获权威认可!浪潮信息获选Forrester全球对象存储卓越厂商

    为了给企业数据存储选型提供参考,近日,全球权威IT咨询机构 Forrester 发布 《全球对象存储市场格局报告,2023Q3》 ,对DellEMC、PureStorage、Netapp、浪潮
    的头像 发表于 09-11 16:40 227次阅读

    浪潮信息发布大模型智算软件栈OGAI,为大模型创新打造高效生产力

    浪潮信息正式发布大模型智算软件栈 OGAI。OGAI (Open GenAI Infra)"元脑生智",是为大模型业务提供AI算力系统环境部署、算力调度保障及模型开发管理能力
    的头像 发表于 08-28 08:08 380次阅读

    浪潮信息联合英特尔发布新一代AI服务器NF5698G7

    浪潮信息联合英特尔发布面向生成AI领域创新开发的新一代AI服务器NF5698G7。该AI服务器
    的头像 发表于 07-13 09:43 423次阅读

    浪潮信息澎湃认证:浪潮分布式存储携手博雅云OneSRM SMP存储管理平台完成兼容性认证

    近日, 博雅云OneSRM SMP存储管理平台与浪潮分布式存储AS13000系列产品完成并通过浪潮信息澎湃技术相互兼容性测试认证 ,测试结果显示,博雅云OneSRM SMP
    的头像 发表于 07-12 09:15 376次阅读
    <b class='flag-5'>浪潮信息</b>澎湃认证:<b class='flag-5'>浪潮</b>分布式<b class='flag-5'>存储</b>携手博雅云OneSRM SMP<b class='flag-5'>存储</b>管理平台完成兼容性认证

    合肥大唐存储与KeyarchOS完成浪潮信息澎湃技术兼容性认证

    在x86_64版本、aarch64版本浪潮信息KOS上均能够稳定运行,在功能、性能和兼容性等各方面表现良好,满足用户对关键性功能的需求。   合肥大唐存储科技有限公司成立于2018年,总部位于安徽省合肥市,公司长期致力于存储控制
    的头像 发表于 07-08 06:20 367次阅读
    合肥大唐<b class='flag-5'>存储</b>与KeyarchOS完成<b class='flag-5'>浪潮信息</b>澎湃技术兼容性认证

    智慧有数浪潮信息发布生成AI存储解决方案

    与管理瓶颈,7月6日,浪潮信息在“数智未来”AIGC数据应用创新论坛上,正式发布面向生成AI存储解决
    的头像 发表于 07-07 20:45 269次阅读

    网迅科技与浪潮信息KOS完成兼容性认证

    /WX1820AL万兆网络控制器,和浪潮信息服务器操作系统KOS V5。经测试,网迅科技两个系列产品在KOS上运行稳定,兼容性良好,满足用户的关键性应用需求,与浪潮信息KOS完全满足兼容认证要求。     网迅科技成立于2014年5月,是一家专门从事集成电路设计、提供网络
    的头像 发表于 06-07 07:16 286次阅读
    网迅科技与<b class='flag-5'>浪潮信息</b>KOS完成兼容性认证