0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

科技云报道:大模型的火烧到了AI服务器上

科技云报到 来源:jf_60444065 作者:jf_60444065 2023-07-27 08:50 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

科技云报道原创。

大模型的纷争已经随着各大入局者公布产品后,热度逐渐退去,但是由大模型带来的产业链高频共振,已经传递了算力层。

表现最为激烈的,就是AI服务器市场。大模型带来的算力需求,直接引发了一波AI服务器抢购潮和涨价潮。

据《证券时报》报道,一家检测企业透露,他们在去年6月购买的8台AI服务器到今年三月已经涨价到130万每台,到现在价格飙升至160万每台。不到一年的时间,价格涨幅近20倍。

另外,AI服务器需求量大涨也直接引发了上游材料PPO(聚苯醚,用作高速覆铜板增强材料)的抢购潮,此前有业内相关人士坦言,由于全球PPO主流厂商仅一家,随着AI服务器的放量,PPO未来很有可能成为产业链上的紧缺环节之一。

在这样的背景下,AI服务器厂商扩产的消息也层出不穷。

鸿海集团旗下负责AI服务器业务的鸿佰科技就曾被曝出规划新增五到六条生产线,以应对AI服务器客户要求的消息。

市场火热度可见一斑,这也直接点燃了资本市场。

从1月份开始,以浪潮信息、中际旭创、工业富联为首的AI服务器概念股扶摇直上,多次涨停,甚至连长期亏损的寒武纪,股价都一路飘红。

爆火的“AI服务器”

AI服务器是什么?

AI服务器是一种专门设计用于执行人工智能(AI)、机器学习(ML)、深度学习(DL)等计算密集型任务的高性能服务器。

AI服务器通常配备有高效能的中央处理器CPU)、图形处理器(GPU)、张量处理器(TPU)或专用的AI加速器,以及大量的内存和存储空间。

在异构方式上,AI服务器可以为CPU+GPU、CPU+FPGA、CPU+TPU、CPU+ASIC或CPU+多种加速卡。

具体的设计和配置可以根据需要进行大量并行处理的具体任务来进行调整。

目前,使用比较广泛的AI服务器是CPU+GPU。这也与传统的服务器区分开来。

据悉,传统服务器主要以CPU为算力提供者,但是在运作的过程中需要引入大量分支跳转中断处理,这使得CPU的内部结构复杂,并不能满足AI时代的需求。

而采用GPU并行计算的AI服务器,单卡核心数达到上千个,擅长处理密集型运算应用,如图形渲染、计算视觉和机器学习。

上述提及的检测企业使用的AI服务器,基础配置就包括8颗英伟达A100GPU和80G存储器。

AI服务器对于AI、ML和DL的计算密集型任务来说非常有用。主要功能包括:

大数据处理:AI服务器能够处理和分析大量数据,这是训练AI和ML模型的关键。

并行计算:由于AI和ML算法需要对大量数据进行复杂的计算,AI服务器通常使用可以并行处理大量数据的硬件,如GPU。

存储和内存:AI服务器通有大量的存储空间和内存,以便存储和处理大量的数据。

网络能力:AI服务器需要高速和低延迟的网络连接,以便快速传输大量的数据。

其实,这也解释了为什么在大模型热浪后,会引发AI服务器的抢购浪。大模型中包含着海量的数据参数、训练、运行都需要更多的计算资源来处理,这就需要更高性能的AI服务器来支持。

当然,这一次AI服务需求大涨最直接的原因是大模型时代的到来,但是实际上,AI服务器在这个节点爆发,与AI技术、大数据的发展都有关。

总的来说,AI服务器的爆火可以归结为以下几个关键因素。

首先,大数据的崛起。现代社会的每个角落,无论是社交媒体、电子商务还是互联网搜索,都在产生大量的数据。

这些数据需要通过复杂的算法进行分析和解读,以发现有用的模式和信息,而AI服务器就能提供足够的计算能力来处理这些任务。

其次,AI和ML的普及也推动了AI服务器的需求。AI和ML现在已经广泛应用于各种行业,包括医疗保健、金融、零售和交通等。

这些领域的进步需要强大的计算能力来处理和分析数据,训练和运行复杂的AI和ML模型。

最后,云计算和边缘计算的发展也为AI服务器的爆火提供了动力。

云计算使得企业和组织能够无需购买和维护昂贵的硬件就能获得强大的计算能力,而边缘计算则需要在接近数据产生地点的服务器上进行数据处理和分析。

AI服务器国内市场格局

AI服务器市场在过去的几年里一直在持续增长,到现今,在大模型的加持下,AI服务器市场盘子越来越大。

据北京研精毕智信息咨询发布的最新数据显示,2022年全年,全球AI服务器行业市场出货量达到85万台,同比增长约11%,到2023年中旬,AI服务器市场出货量接近60万台,相比上年同期增长约39%。

未来,随着自然语言处理和图像、视频等AI大模型的发展,算力需求的持续增长,预计到今年年底,全球AI服务器市场规模将超过200亿美元。

到2025年,预计市场出货量将提升至190万台左右,2022-2025年期间年平均增长率达41.2%。

就具体产业链来说,AI服务器产业链上游为CPU、GPU、内存和硬盘等核心零部件,以及数据库、操作系统和基础管理软件等软件供应;下游为应用市场,包括互联网、云计算和数据中心服务商等。

目前,主导市场的是一些主要的AI服务器制造商,包括华为、浪潮、联想和中科曙光等,这些公司的服务器被广泛应用于AI和ML的研究和商业应用。

不过,值得注意的是,浪潮信息于近日发布了一份营收净利润双双下滑的半年度业绩预告。

其中,浪潮信息2023年上半年扣非净利润同比下滑88%-99%。对此,浪潮信息方面称,2023年上半年,受全球GPU及相关专用芯片供应紧张等因素的影响,营业收入出现下滑。

实际上,有行业人士分析,在AI服务器大火的背景下,浪潮信息业绩不及预期,深层次原因还是在于传统服务器行业整体不景气,而目前浪潮信息AI服务器实际所占比例并不大。

浪潮信息此前曾表示,总体来看,公司AI服务器的整体业务占比在上升。AI服务器需求大涨带来的业绩,或许能在浪潮信息2023年年报才能体现。

不过,根据IDC发布的《2022年第四季度中国服务器市场跟踪报告Prelim》,目前,在整个服务器市场(涵盖AI服务器和传统服务器)浪潮份额依旧以28.1%领先,但相比于去年30.8%的份额,还是有所下滑。

其实这也与说明一点,传统CPU服务器行业受到AI的影响,市场逐渐萎靡。未来以AI服务器为代表的异构服务器或是大势所趋。

在应用市场,数据显示,全球市场中以Microsoft、Google、Meta和AWS为代表的四家北美云端供应商采购量相对比较高。

2022年末,Microsoft以接近20%的采购量占据当年首位;Google、Meta和AWS采购量占比排在之后,分别达到17%、15%和14%。

在国内,随着科技厂商入局大模型已经大模型创业的兴起,AI算力基础设施的加快建设,对AI服务器的采购量占比也在相应升高。

2022年年末,字节跳动的AI服务器采购量大幅度提高,市场占比达到6%。

然而,市场也面临着一些挑战。首先,是能源消耗的问题。尽管AI服务器的性能在不断提高,但其能耗也在增加。这对于环保和电力供应来说都是一个问题。

其次,AI和ML的快速发展和变化要求服务器制造商必须持续投入研发,以确保他们的产品能够满足最新的需求。

关于未来,国内的AI服务器市场有很大的潜力。随着AI、ML和DL的进一步发展和应用,预计对AI服务器的需求将继续增长。

此外,随着5G物联网技术的普及,未来在边缘计算领域对AI服务器的需求将会增加。

总的来说,尽管市场面临着一些挑战,但AI服务器的快速发展和广泛应用表明,这是一个充满活力和潜力的市场。

【关于科技云报道】

专注于原创的企业级内容行家——科技云报道。成立于2015年,是前沿企业级IT领域Top10媒体。获工信部权威认可,可信云、全球云计算大会官方指定传播媒体之一。深入原创报道云计算、大数据、人工智能、区块链等领域。

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 服务器
    +关注

    关注

    14

    文章

    10467

    浏览量

    91893
  • AI
    AI
    +关注

    关注

    91

    文章

    42239

    浏览量

    303277
  • 大模型
    +关注

    关注

    2

    文章

    3884

    浏览量

    5312
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    阿里发布基于平头哥新一代AI芯片真武M890的128卡超节点服务器

    近日,在2026阿里峰会上,阿里发布基于平头哥新一代AI芯片真武M890的128卡超节点服务器,搭载互联芯片ICN Switch 1.0,通信时延低至百纳秒级,可让128张
    的头像 发表于 05-22 10:23 245次阅读

    AI 服务器电源:现状剖析与未来展望

    AI技术蓬勃发展的当下,AI服务器作为算力的核心支撑,其电源系统的重要性愈发凸显。它不仅是服务器稳定运行的动力源泉,更是推动AI技术不断突
    的头像 发表于 05-07 11:20 488次阅读
    <b class='flag-5'>AI</b> <b class='flag-5'>服务器</b>电源:现状剖析与未来展望

    普通服务器电源与AI服务器电源的区别(

    引言服务器是数据中心的核心设备,其稳定运行依赖可靠的电源供应。随着AI技术的飞速发展,AI服务器大量涌现,与普通服务器在应用场景等方面存在显
    的头像 发表于 01-12 09:31 1633次阅读
    普通<b class='flag-5'>服务器</b>电源与<b class='flag-5'>AI</b><b class='flag-5'>服务器</b>电源的区别(<b class='flag-5'>上</b>)

    什么是企业服务器-计算

    企业服务器是指为企业提供的基于计算技术的服务器解决方案。华纳是一家计算
    的头像 发表于 12-29 17:57 1264次阅读

    Microchip推出模型语境协议(MCP)服务器,助力AI驱动的产品数据访问

    )今日推出模型语境协议(MCP)服务器。作为AI接口,MCP服务器可直接连接兼容的AI工具和大型语言模型
    的头像 发表于 12-04 16:45 1332次阅读

    Microchip推出模型语境协议服务器

    为进一步兑现公司为嵌入式工程师开发AI解决方案的承诺,Microchip Technology Inc.(微芯科技公司)今日推出模型语境协议(MCP)服务器。作为AI接口,MCP
    的头像 发表于 11-24 15:43 902次阅读

    服务器端口怎么开放?

    刚搭建好服务器,想部署网站、运行应用或开启远程连接,却发现外网始终无法访问?大概率是端口没开放。端口就像服务器的门窗,默认状态下,服务器
    的头像 发表于 11-11 15:43 1258次阅读

    DeepSeek模型如何在服务器上部署?

    随着大型语言模型(LLM)的应用日益普及,许多开发者和企业希望将像DeepSeek这样的优秀模型部署到自己的服务器,以实现私有化、定制化
    的头像 发表于 10-13 16:52 1259次阅读

    对话|AI服务器电源对磁性元件提出的新需求

    编者按: 自ChatGPT、DeepSeek等大型AI模型应用爆发以来,市场对AI服务器的需求激增,其配套电源的发展前景已成为行业共识。目前,I服务
    的头像 发表于 10-11 14:55 1478次阅读
    对话|<b class='flag-5'>AI</b><b class='flag-5'>服务器</b>电源对磁性元件提出的新需求

    AI 服务器备用电源:高效、可靠与智能的未来保障

    电子发烧友网综合报道 随着人工智能技术的飞速发展,AI 服务器已成为数据中心的核心引擎。然而,算力需求的指数级增长也带来了前所未有的电源挑战。在 AI
    的头像 发表于 10-09 02:38 5653次阅读

    Jtti服务器怎么部署网站吗

    在互联网快速发展的今天,网站已经成为公司和个人沟通和展示自我的重要渠道。无论是一个简单的个人博客,还是一个复杂的电子商务平台,部署网站的过程都是相似的。服务器因其高可用性、灵活性和经济性,成为
    的头像 发表于 09-26 17:16 1442次阅读

    轻量服务器服务器区别:2025年终极选择指南

    轻量服务器服务器区别在于定位和性能保障。轻量服务器采用共享计算资源和突发性能模式,预配置
    的头像 发表于 09-01 13:58 1664次阅读
    轻量<b class='flag-5'>云</b><b class='flag-5'>服务器</b>和<b class='flag-5'>云</b><b class='flag-5'>服务器</b>区别:2025年终极选择指南

    ai服务器是什么?与普通服务器有什么区别

    AI服务器并非简单的硬件堆砌,而是专门为人工智能任务设计的高性能计算系统。其核心目标是高效处理海量数据并行计算(如矩阵乘法、模型推理),并针对AI工作负载(如深度学习训练、大
    的头像 发表于 06-24 16:39 5279次阅读

    AI 服务器电源如何迭代升级?

    AI 算力需求增长的今天,AI 服务器电源正陷入 “性能瓶颈与国产替代并行、场景适配与技术创新交织” 的双重挑战。 由Big-Bit商务网、广东省磁性元器件行业协会主办的2025中国电子热点
    的头像 发表于 06-23 14:51 1882次阅读

    硅谷GPU服务器是什么意思?使用指南详解

    硅谷GPU服务器本质是一种IaaS(基础设施即服务)产品,它将物理服务器的GPU资源通过虚
    的头像 发表于 06-16 09:41 811次阅读