0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

自研服务器芯片或许没有那么大优势

lPCU_elecfans 来源:电子发烧友网 2023-04-06 10:07 次阅读

自研芯片在当下似乎已经成了一种潮流,无论是消费电子厂商、互联网公司还是汽车厂商,都在拿自研芯片做文章。作为时刻都在与计算打交道的云端,自然也参与其中,甚至是先进工艺自研芯片的主力军。

自研芯片能省下多少钱?

早在芯片产业有布局,或者以收购来掌握芯片设计实力的云服务厂商,几乎都选择了自研服务器芯片这条路线,比如亚马逊、谷歌、阿里巴巴等等。自研芯片的范围也从网络芯片到通用计算的CPU,再到用于AI计算的ASIC芯片。

亚马逊就靠着自研芯片省下了一大笔成本,这也是其他云服务厂商目前都没能复制的成功。首先自研芯片通过架构上的创新,为其定制化实例提供了更高的性能,比如Nitro芯片靠卸载任务可以多省出两个CPU内核;其次,对于某些特定的工作负载来说,自研芯片带来了更容易把握的战略控制以及硬件锁定;最后,自然也省去了找第三方fabless设计公司的成本。

考虑到云服务厂商在硬件投入上的规模,以及亚马逊作为全球第一大云服务厂商的体量,其中省下的成本还是相当庞大的。这也是亚马逊走自研芯片可行的原因,其他云服务厂商或许能通过自研把设计成本压下去,但制造成本绝对没法像亚马逊一样压这么低,这也是为何AWS过去能做到频繁降价。

AI时代下自研芯片优势有,但不多

亚马逊在收购后,接连推出了Trainium和Inferentia这两大训练和推理加速器,并将其集成到自己的云端实例中去,以优异的性能为客户提供高性价比的AI硬件方案。但这似乎并没有为其在最近的AI热潮中带来优势,反倒是微软凭借英伟达GPU率先以ChatGPT开启了这场恶战,谷歌的Bard也紧随其后。

亚马逊则选择了与Hugging Face合作,作为其首选云供应商,用户可以借助AWS上的先进工具,比如SageMaker托管服务,以及Trainium和Inferentia硬件,去训练、微调和部署模型,从而为社区创造更加开放易用的AI。

但事实上是,这一合作激起的水花很快就被淹没在了如倾盆大雨般落地的AI应用中。而且对于Hugging Face来说,他们想要打造的是开放式的生成式AI模型,也就是说其他厂商也都能从中获益,也就是两家共同提到的机器学习民主化。

况且在部署上,早在与亚马逊合作之前,Hugging Face就已经在2022年与微软Azure达成合作,在Azure的ML终结点上部署Hugging Face的机器学习推理服务。所以这次合作即便充分利用了亚马逊的自研AI芯片,但给其带来的优势并不算大。无论是在性能还是在软件生态上,现有的自研芯片都存在如鲠在喉的地方,而这不仅局限于亚马逊这样的大厂,不少初创AI芯片公司也都或多或少面临这样的困境。

结语

其实自研芯片也并非真的毫无灵活性可言,比如亚马逊的Graviton和阿里的倚天710,虽说是自研芯片,但用到的毕竟还是Arm的Neoverse公版方案,还有不少第三方方案也是如此,比如英伟达的Grace、Ampere Computing的Altra等等。

这样一来其实开发灵活性依然很高,比如英伟达为了给Grace做铺垫,也对同类产品的软件栈提供了支持。比如英伟达的HPC SDK全面支持AWS的Graviton 3,也支持对SVE和NEON的自动矢量化。而英伟达推出的Arm HPC开发套件,也是由Ampere的Altra Q80-30 CPU与A100 GPU组合打造的,与Grace芯片共用同一套软件环境。

只不过在AI领域,这样的自研路线优势会更小一点,毕竟现在AI模型与算法发展迅速,自研GPU有着各种难以突破的专利壁垒,自研ASIC又存在迭代适应和软件生态移植的问题。而这对于云服务厂商这种为客户赋能更快产品上市速度的企业来说,或许在AI仍在快速演进的当下,GPU会是更优解,这也是云服务厂商即便选择了自研AI芯片,主打的却依然是GPU实例的原因。

审核编辑 :李倩

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 芯片
    +关注

    关注

    447

    文章

    47804

    浏览量

    409179
  • 加速器
    +关注

    关注

    2

    文章

    744

    浏览量

    36600
  • 服务器
    +关注

    关注

    12

    文章

    8120

    浏览量

    82531

原文标题:自研服务器芯片或许没有那么大优势

文章出处:【微信号:elecfans,微信公众号:电子发烧友网】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    美国云服务器优势

    很多用户会选择美国云服务器那么美国云服务器有哪些美国云服务器优势,rak部落小编为您整理发布美国云
    的头像 发表于 04-11 11:01 89次阅读

    服务器远程不上服务器怎么办?服务器无法远程的原因是什么?

    访问服务器 PS:检查端口是否能正常通信,可以通过命令tcping ip端口来确定,如果端口不通,检查防火墙远程端口策略有没有把现在 的远程端口加入策略之中,如果防火墙策略正常,那么检查服务器
    发表于 02-27 16:21

    linux服务器和windows服务器

    ,这在满足个性化需求和增强服务器安全 性上具有优势。 Linux服务器还具有出色的性能和稳定性。相比之下,Windows服务器在性能和稳定性方面稍有不足。特别是在处理高负载和 大数据量
    发表于 02-22 15:46

    美国硅谷服务器优势

     诸多用户会优先选择美国硅谷服务器那么美国硅谷服务器优势有哪些?小编为您整理美国硅谷服务器优势
    的头像 发表于 02-20 10:37 175次阅读

    独立服务器和云服务器的区别

    独立服务器和云服务器的区别是很多用户在选择服务器时要做的课程,那么独立服务器和云服务器的区别有哪
    的头像 发表于 01-17 10:58 271次阅读

    选择云服务器租用托管有哪些优势?

    服务器租用托管服务好吗?选择云服务器租用托管有哪些优势?关于云服务器租用托管的话题RAKsmart小编今天来为您做详细的解答。
    的头像 发表于 01-10 10:21 183次阅读

    站群服务器优势与挑战

    站群服务器(也称为网站集群或站群架构)是一种通过将多个服务器协同工作来分担负载和提高可用性的解决方案。它在某些方面具有优势,但也面临一些挑战。 一、站群服务器
    的头像 发表于 12-11 16:45 240次阅读

    使用云服务有哪些优势?

    服务器帮助您快速构建更稳定、安全的应用,降低开发运维的难度和整体IT成本,使您能够更专注于核心业务的创新。那么服务器相比VPS、独立服务器又有哪些
    的头像 发表于 11-08 13:00 170次阅读

    摄像头监云服务器有什么优势

    摄像头监云服务器有什么优势?摄像头监控云服务器相对于传统的本地服务器具有一些显著的优势,主要包括: 1、灵活性和可扩展性:摄像头监云
    的头像 发表于 10-26 17:47 571次阅读

    恒讯科技分析:轻量应用服务器有什么特点和优势

    轻量应用服务器是指配置和资源消耗相对较低的服务器,适合托管轻量级应用程序和网站。与传统的高性能服务器相比,轻量应用服务器通常具有更具成本效益的价格和更简单的配置选项。
    的头像 发表于 07-11 17:35 287次阅读

    服务器租用和服务器托管各有哪些优势

    托管通常由客户自行购买并交给服务提供商托管。今天我们来谈谈服务器租赁和服务器托管各有哪些优势服务器租赁的优点: 首先,价格是
    的头像 发表于 07-04 14:55 397次阅读

    如何向中央服务器发送音频或从中央服务器发送音频?

    ://github.com/espressif/ESP8266_MP3_DECODER。我还没有看到很多流回服务器,也没有看到双向的。我正在寻找有关使用什么集成电路来执行此操作的建议。我知道 ESP8266 有一个模拟数字引脚,
    发表于 05-23 06:20

    本地服务器与云服务器哪个好?

    本地服务器和云服务器是企业可以使用的两种不同的服务器设置。主要区别在于本地服务器托管,第三  方提供商托管云服务器
    的头像 发表于 05-17 16:56 1128次阅读

    恒讯科技分析:选择IP服务器有什么优势呢?

    在互联网时代,服务器可以说是非常重要的一环,IP服务器就是其中之一。 它与传统服务器不同,具有许多优点。那么选择IP服务器有什么
    的头像 发表于 05-12 17:22 269次阅读

    服务器有哪些优势

    市场竞争激烈,各大互联网巨头相继推出云服务器系列产品和相关服务那么,云服务器到底是什么?云服务器优势
    的头像 发表于 05-12 11:56 479次阅读