0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

探讨大模型时代背景下数据存储的变革之道

浪潮存储 来源:浪潮存储 2024-12-16 14:05 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

在当今数字化浪潮汹涌澎湃的时代背景下,大模型技术犹如一颗璀璨的明星,照亮了科技发展的广阔苍穹,而存储技术的变革,作为这一进程中的坚实基石,正日益成为产业界与学术界共同瞩目的核心焦点。

为此,浪潮信息联合DOIT推出《有数·高端对话》栏目,分布式存储产品线总经理姜乐果及DOIT传媒主编李祥敬,与特邀嘉宾上海交通大学吴晨涛和中科闻歌陈思含共同围绕大模型的存储需求变化,展开了一场深度对话。深入探讨大模型时代背景下数据存储的变革之道,共话数字经济的创新发展,进一步夯实数据基础设施,充分释放数据资源的巨大价值,为广大行业同仁及用户提供价值参考与启示。

大模型驱动存储变革

大模型技术的迅猛发展对存储系统提出了极为严苛的要求。以GPT-4为例,其参数量达到了2200亿,每张GPU配备的HBM显存带宽达1.6TB/s,整体训练所需的显存容量接近400TB。根据Meta等公司的调研数据显示,大模型在运行过程中会频繁遭遇内存故障,平均每2-3小时便可能导致一次训练中断,这无疑对存储系统的安全可靠性提出了极高的标准。吴晨涛教授以GPT-4等前沿模型作为实例,清晰阐明了大容量HBM显存、高带宽以及高可靠性是存储系统不可或缺的三大核心特性。

同时,从宏观角度出发,吴教授呼吁建立开放的数据生态。在这一生态中,通过强化监管与隐私保护,旨在打破数据孤岛,促进数据的流动与共享,为高质量数据的充分涌流开辟道路,从而为行业大模型的发展提供持续不断的动力。

作为存储厂商的代表,姜乐果从存储技术进化的视角出发,详细阐述了在大模型驱动下,传统计算与当前智算中心存储设施的全方位变革。在性能层面,智算中心对存储性能的要求已从百GB级跃迁至TB级,与算力协同攀升;在容量维度,存储系统已从PB级大步迈向EB级,轻松应对海量数据洪流的冲击。同时,数据格式与协议的多元化与复杂性日益显著,这对存储系统突破兼容壁垒提出了迫切需求。

姜乐果还展示了企业在数据要素市场的积极布局与创新探索。浪潮信息紧跟政策导向,与多方合作伙伴携手,深入挖掘行业需求,精心研发端到端的解决方案及高性能存储新品。例如,新一代分布式存储平台AS13000G7系列产品在MLPerf AI存储基准评测中表现出色,在3D-UNet(医学图像分割)和CosmoFlow(宇宙学参数预测)两个应用场景共计8项测试中,斩获5项全球第一,彰显强大的性能实力,为行业大模型数据存储难题提供有力支撑。

中科闻歌作为一家专注于复杂数据解析和AI辅助决策的人工智能公司,陈思含分享了中科闻歌在大模型实践中的宝贵经验。在大模型的发展历程中,存储需求经历了显著的动态演变:从早期对训练速度的追求导致存储性能需求激增,到参数量膨胀带来的数据量与参数规模指数级增长,再到多模态数据处理对存储复杂性的严格要求,以及混合读写模式和多样化应用场景引发的多元化需求。

数据质量作为行业大模型发展的核心驱动力,中科闻歌在此方面进行了创新实践。集成了全球多语言媒体数据的闻海大数据平台,运用跨模态AI技术融合信息,构建了垂直领域知识库,并提供模块化的智能大屏工具。这一平台不仅具备全球范围内高效、安全获取和处理高质量数据的能力,还成为训练大模型所需高质量数据的主要数据源和知识库。

在为客户提供大模型落地产品和系统时,中科闻歌采取了混合模式,即结合公司自身海量数据与用户的私有行业数据进行模型训练和应用构建,确保了客户的数据安全,避免了数据出域的风险。

协同创新下的趋势展望

展望未来存储发展,吴晨涛教授立足学术前沿,前瞻性地预判了关键技术走向。他认为,跨域资源调度共享技术,特别是基于CXL协议的内存池创新,将打破资源限制,实现全域资源的灵动调配。同时,优化元数据管理将提升数据检索与处理效率,而内存故障预测及 Checkpointing 技术则能确保系统稳定运行,最大限度地减少故障对数据处理连续性和完整性的影响。这些技术的迭代升级将为存储技术的发展指明方向。

作为存储厂商的代表,浪潮信息积极拥抱变革,从Storage for AI深度适配需求,到AI for Storage智能赋能提效,再到与大模型企业紧密合作,精准挖掘系统性能潜能,为用户提供更贴合业务的产品。

作为大模型企业的代表,中科闻歌致力于打造高效、安全和可靠的存储系统,以适应大模型时代的新要求。在架构上,采用存算分离架构部署AI-Ready数据基础设施,以加速智能应用。在效率提升方面,全闪存存储凭借其卓越性能成为破局关键,能够加速数据流转,激活数据价值。而在安全防护层面,中科闻歌构建主动防御体系,从内核强化存储安全,筑牢安全防线。

此次对话栏目的成功举办,不仅搭建了产学研用之间的沟通桥梁,还为各方的深度合作提供了宝贵的机会。各方代表能够相互交流思想、碰撞火花,共同探讨大模型时代下的存储技术变革。这一举措为产学研用四方携手共进创造了难得契机,共同迎接大模型时代带来的存储变革浪潮,推动我国存储产业的繁荣发展。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据存储
    +关注

    关注

    5

    文章

    1014

    浏览量

    52588
  • 浪潮
    +关注

    关注

    1

    文章

    476

    浏览量

    25305
  • 大模型
    +关注

    关注

    2

    文章

    3442

    浏览量

    4969

原文标题:浪潮信息《有数·高端对话》:大模型时代存储变革,产学研用共探新局

文章出处:【微信号:inspurstorage,微信公众号:浪潮存储】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    深圳南柯电子|灯具EMC整改:低碳时代,能效与兼容性的平衡之道

    深圳南柯电子|灯具EMC整改:低碳时代,能效与兼容性的平衡之道
    的头像 发表于 11-20 10:00 164次阅读

    佰维存储:AI时代存储解决方案

    存储支持。然而,带宽和容量提升的同时,尺寸和功耗却成为瓶颈,存储必须在同等体积里做到更大容量、更高带宽、更高集成以及更低功耗。     何瀚认为,在这样的背景,仅靠传统的“通用模组
    的头像 发表于 09-30 08:40 1.1w次阅读
    佰维<b class='flag-5'>存储</b>:AI<b class='flag-5'>时代</b>的<b class='flag-5'>存储</b>解决方案

    Melexis即将推出新型硅基高压RC缓冲器

    在当今科技以日新月异之势迅猛发展的时代背景,电力电子技术领域正经历着一场深刻且具有划时代意义的变革。 Melexis凭借其深厚的技术积淀与卓越的创新能力,推动着行业不断迈向新的高度。
    的头像 发表于 07-29 17:41 765次阅读

    数智化时代数据存储“进化论”该如何书写?

    。Gartner预测,到2028年,企业软件应用中具备自主性AI的比例将从不到1%升至33%,30%的企业机构会把数据变现或入表纳入数据战略。在此背景,作为
    的头像 发表于 04-16 11:21 494次阅读
    数智化<b class='flag-5'>时代</b>,<b class='flag-5'>数据</b><b class='flag-5'>存储</b>“进化论”该如何书写?

    工业存储变革:MK eMMC 引领数据存储时代

    在当今科技飞速发展的工业领域,数据存储犹如工业设备的 “智慧大脑”,承载着生产流程的关键信息。随着工业 4.0 的推进,不同市场应用分类对数据存储提出了多样化且严苛的要求。而 eMMC
    的头像 发表于 04-02 14:14 888次阅读
    工业<b class='flag-5'>存储</b>新<b class='flag-5'>变革</b>:MK eMMC 引领<b class='flag-5'>数据</b><b class='flag-5'>存储</b>新<b class='flag-5'>时代</b>

    华为加速AI时代数据存储产业发展

    近日,在华为中国合作伙伴大会2025上,华为数据存储产品线总裁周跃峰发表“共筑数智解决方案,共享数据存储产业大发展”主题演讲,深入探讨如何加
    的头像 发表于 04-01 15:35 903次阅读

    麦谷科技即将推出麦联智驾AI Agent 1.0

    在当今科技迅猛发展、日新月异的时代背景,人工智能已经成为推动各行各业实现深刻变革的核心动力。
    的头像 发表于 04-01 14:02 802次阅读

    适用于数据中心和AI时代的800G网络

    随着人工智能(AI)技术的迅猛发展,数据中心面临着前所未有的计算和网络压力。从大语言模型(LLM)训练到生成式AI应用,海量数据处理需求推动了网络带宽的快速增长。在此背景
    发表于 03-25 17:35

    数字化时代存储变革:闪迪引领AI应用的数据支持

    在数字化时代数据已成为推动社会和经济发展的核心驱动力。随着人工智能(AI)、手机、自动驾驶的快速发展,数据存储技术的重要性愈发凸显。随着现阶段AI的爆发式增长,其发展状态受到全球用户
    的头像 发表于 03-19 08:59 637次阅读
    数字化<b class='flag-5'>时代</b>的<b class='flag-5'>存储</b><b class='flag-5'>变革</b>:闪迪引领AI应用的<b class='flag-5'>数据</b>支持

    工业4.0浪潮,数字孪生如何重塑设备全生命周期管理?

    时代背景,设备管理正经历变革,目标是建立个性化和数字化的产品与服务生产模式。数字孪生技术的出现,为实现设备高效管理带来了革命性变化。传统设备全生命周期管理的痛点在工业4.0 之前,严重制约着企业的生产效率与经济效益。
    的头像 发表于 02-17 11:38 1082次阅读
    工业4.0浪潮<b class='flag-5'>下</b>,数字孪生如何重塑设备全生命周期管理?

    存储变革进行时:高密度QLC SSD缘何扛起换代大旗(二)

    在语言大模型(LLM)、推理大模型(如DeepSeek)等AI应用爆火的当下,数据存储和访问速度、模型训练与推理效率等相关话题也逐步升温,S
    的头像 发表于 02-17 11:35 758次阅读
    <b class='flag-5'>存储</b><b class='flag-5'>变革</b>进行时:高密度QLC SSD缘何扛起换代大旗(二)

    存储变革进行时:高密度QLC SSD缘何扛起换代大旗(一)

    ZB。不仅数据量快速增长,大模型、HPC等应用对性能要求也很高,传统大容量HDD无法满足。在此背景,2024年大容量QLC SSD的市场份额得到了快速增长。 本期开始我们将分为三期
    的头像 发表于 01-24 16:24 1375次阅读
    <b class='flag-5'>存储</b><b class='flag-5'>变革</b>进行时:高密度QLC SSD缘何扛起换代大旗(一)

    智能驾驶数据采集回注测评工具 - ARS

    数据驱动智能驾驶的时代背景,开发者们总结了一条适用于智能驾驶的数据闭环开发流程,这条开发线路大致包括实车数据采集->
    的头像 发表于 01-15 17:50 1663次阅读
    智能驾驶<b class='flag-5'>数据</b>采集回注测评工具 - ARS

    【「大模型启示录」阅读体验】对大模型更深入的认知

    ,大模型的世界远比我想象的要复杂和深刻。 书中不仅详细介绍了大模型的构建过程,还探讨了它们的核心能力和所需的基础设施。我特别喜欢的是,书中用通俗易懂的语言,把大模型的“不可能三角”,即
    发表于 12-20 15:46

    AIGC时代的大前端分论坛亮点前瞻

    在人工智能和大模型技术迅猛发展的背景,软件行业正经历着深刻的变革。“万物皆可AI”的理念不仅重塑了后端开发,同时也为前端领域带来了前所未有的挑战与机遇。
    的头像 发表于 12-16 15:03 1007次阅读