0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

甲骨文、微软再次合作!讨论共享AI服务器,应对算力短缺!

Carol Li 来源:电子发烧友网 作者:李弯弯 2023-05-12 01:23 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/李弯弯)日前消息,据相关人士透露,甲骨文(Oracle)和微软(Microsoft)最近讨论了一项不同寻常的协议,如果任何一家公司为使用大规模AI的云客户提供的计算能力不足,双方将相互租用服务器。

这笔交易将帮助这两家互为竞争对手的云服务提供商满足市场对可运行AI软件的服务器日益增长的需求,这种需求已导致服务器短缺。

微软和甲骨文曾多次合作

微软和甲骨文虽然互为竞争对手,但却曾多次携手合作。2013年6月,微软与甲骨文宣布达成合作,将Java、甲骨文数据库以及其他甲骨文软件带到微软WindowsServerHyper-V和WindowsAzure云平台,这种合作为开发人员提供了极大的便利。

消费者可以在WindowsServerHyper-V和WindowsAzure上部署甲骨文软件,包括Java、甲骨文数据库、甲骨文WebLogicServer,甲骨文将提供完整支持。

作为合作的一部分,甲骨文将认证和支持自家软件在微软平台上的运行,并为WindowsAzure用户提供OracleLinux,微软也向WindowsAzure用户提供上述甲骨文软件。

甲骨文与微软的强强联合,Java开发人员和企业用户获益最大,甲骨文数据库与微软云计算平台的整合,使得他们可以直接将桌面上的传统软件迁移至云计算系统。

2019年6月,微软和甲骨文又宣布建立一个新的合作关系,两家公司将通过网络直连他们的云服务,以便用户可以在两者之间无缝地迁移其工作负载和数据。

微软和甲骨文发布的联合声明显示,企业用户将可以无缝地使用微软Azure的分析和人工智能等服务,以及甲骨文自主数据库等云服务。整体来说,双方为用户提供了一站式的服务,为用户提供经营整个企业的所有云服务和应用程序。

据分析,微软和甲骨文携手合作是为了应对共同的竞争压力。随着移动互联网快速发展,云计算市场重要性日益凸显。微软的AZure始终无法赶上亚马逊云服务AWS的步伐,甲骨文更是由于最初对云计算前景的估计失误而处境尴尬。

根据Synergy Research Group数据显示,亚马逊云服务以超过30%的市场占有率,成为全球云计算市场上的领跑者。微软Azure以大约15%的市场份额位列第二,紧随其后的是IBM Cloud以及谷歌Cloud。甲骨文(Oracle)这样的小型云计算服务商,更是在上述四大云计算巨头加强市场控制的压力下,业务增速有所放缓。两者携手合作对于双方来说都很有必要。

AI服务器需求快速增长

ChatGPT的出现掀起了全球AI大模型研究热潮,无论是训练还是推理,这都需要消耗大量的算力,尤其是训练阶段。以ChatGPT为例,根据OpenAI在2020年发表的论文,训练阶段算力需求与模型参数数量、训练数据集规模等有关,且为两者乘积的6倍:训练阶段算力需求=6×模型参数数量×训练集规模。

GPT-3模型参数约1750亿个,预训练数据量为45 TB,折合成训练集约为3000亿tokens。即训练阶段算力需求=6×1.75×1011×3×1011=3.15×1023 FLOPS=3.15×108 PFLOPS

依据谷歌论文,OpenAI公司训练GPT-3采用英伟达V100 GPU,有效算力比率为21.3%。GPT-3的实际算力需求应为1.48×109 PFLOPS(17117 PFLOPS-day)。

假设应用A100 640GB服务器进行训练,该服务器AI算力性能为5 PFLOPS,最大功率为6.5 kw,则根据测算,训练阶段需要服务器数量=训练阶段算力需求÷服务器AI算力性能=2.96×108台(同时工作1秒),即3423台服务器工作1日。

在ChatGPT及各种AI大模型的推进下,AI服务器市场需求呈现高速增长趋势。美国服务器供应商超微电脑在5月初的财报会议上表示,AI服务器业务正迎来创纪录暴涨。公司向主要客户交付新平台的速度加快,2023财年有望迎来强劲收尾。

不过也因为需求强劲,AI服务器硬件资源也面临短缺的问题,超微电脑就表示,AI服务器出货量可能会受到供应链瓶颈的限制。

事实上,今年3月微软公司就已经传出面临内部AI服务器硬件短缺的窘境。为此,微软不得不对硬件资源采取配额供应的方式,限制其他内部AI工具开发团队的使用量,从而确保基于GPT-4的新版必应聊天机器人和即将发布的新款Office工具获得足够的资源。

小结

可以看到,随着AI大模型的研究推进,算力需求与日俱增,AI服务器企业也迎来大幅增长。然而由于受到供应链,比如高算力GPU芯片等限制,AI服务器硬件资源仍然面临短缺。微软和甲骨文的再次携手合作,正是其应对当前困境的方式之一。




声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 微软
    +关注

    关注

    4

    文章

    6719

    浏览量

    107327
  • AI
    AI
    +关注

    关注

    89

    文章

    38085

    浏览量

    296381
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    觉醒 · AI共生——上海永铭电子2025AI服务器电容应用专题会议圆满落幕

    随着人工智能浪潮席卷全球,AI正以前所未有的速度爆发式增长。在这场决定未来的技术竞速中,稳定、高效、可靠的电力供应是基石的核心。而电
    的头像 发表于 11-03 14:00 486次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>觉醒 · <b class='flag-5'>AI</b>共生——上海永铭电子2025<b class='flag-5'>AI</b><b class='flag-5'>服务器</b>电容应用专题会议圆满落幕

    成都汇阳投资关于甲骨文云计算订单超预期,全球投资持续高景气

    甲骨文披露 4550 亿美元订单超预期 全球投资高景气 , 甲骨文披露4550亿美元订单超预期 ,微软与 Nebius 达成五年 174
    的头像 发表于 10-17 10:05 345次阅读

    天波科普:超过30T的边缘计算服务器可以做什么?

    网关的能力边界,也涉及到高低。那么,目前边缘计算服务器到多少算高呢?以广东天波AI边缘
    的头像 发表于 09-28 11:18 427次阅读
    天波科普:<b class='flag-5'>算</b><b class='flag-5'>力</b>超过30T的边缘计算<b class='flag-5'>服务器</b>可以做什么?

    多达 48 个计算节点!Firefly 推出 CSC2-N48 AI 服务器

    Firefly最新推出CSC2-N48服务器,内置48个分布式计算节点,单节点可提供6TOPS-157TOPS,可选瑞芯微、
    的头像 发表于 08-20 16:37 1255次阅读
    多达 48 个计算节点!Firefly 推出 CSC2-N48 <b class='flag-5'>AI</b> <b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服务器</b>

    看懂AI集群

    最近这几年,AI浪潮席卷全球,成为整个社会的关注焦点。大家在讨论AI的时候,经常会提到AI
    的头像 发表于 07-23 12:18 955次阅读
    一<b class='flag-5'>文</b>看懂<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>集群

    看点:曝OpenAI与甲骨文加码“星际之门” 富士康要求中国员工从印度撤离 微软放慢AI芯片开发:专注务实设计

    OpenAI将从甲骨文额外租用总计约4.5吉瓦的数据中心电力,这相当于4.5座核反应堆的发电量。 据悉,在得州阿比林甲骨文已经建立了一个I大型数据中心;计划将阿比林数据中心的电力容量从目前的1.2吉瓦扩展至约2吉瓦。 同时甲骨文
    的头像 发表于 07-03 13:56 570次阅读

    服务器多少钱一台?价格因素与选购指南

    入门级服务器可能只需几千元,而高性能计算(HPC)或AI训练专用服务器则可能高达数十万元。一般来说,中小型企业常用的
    的头像 发表于 06-17 09:45 1520次阅读

    RAKsmart服务器如何赋能AI开发与部署

    AI开发与部署的复杂性不仅体现在算法设计层面,更依赖于底层基础设施的支撑能力。RAKsmart服务器凭借其高性能硬件架构、灵活的资源调度能力以及面向AI场景的深度优化,正在成为企业突破
    的头像 发表于 04-30 09:22 587次阅读

    AI原生架构升级:RAKsmart服务器在超大规模模型训练中的突破

    近年来,随着千亿级参数模型的崛起,AI训练对的需求呈现指数级增长。传统服务器架构在应对分布式训练、高并发计算和显存优化等场景时逐渐显露瓶
    的头像 发表于 04-24 09:27 608次阅读

    智能服务器应用领域

    智能服务器应用领域 一、‌金融行业‌ 智能风控与投顾‌:通过集群支撑AI模型训练,实现风
    的头像 发表于 04-21 09:09 1211次阅读
    智能<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>服务器</b>应用领域

    RAKsmart服务器如何重塑AI高并发格局

    AI大模型参数量突破万亿级、实时推理需求激增的当下,传统服务器架构的并发处理能力已逼近物理极限。RAKsmart通过“硬件重构+软件定义”的双引擎创新,推出新一代AI服务器解决方案。
    的头像 发表于 04-03 10:37 668次阅读

    Firefly 服务器系列:覆盖多个领域的高解决方案

    服务器覆盖60~1570TOPS强劲,支持Transformer架构下大语言模型的私有化部署,如Gemma-2B、ChatGLM3
    的头像 发表于 02-19 16:34 1350次阅读
    Firefly <b class='flag-5'>服务器</b>系列:覆盖多个领域的高<b class='flag-5'>算</b><b class='flag-5'>力</b>解决方案

    TikTok遭下架,甲骨文将关闭其美国数据服务器

    ,TikTok美国业务的主要云计算供应商甲骨文公司已向其员工发出通知,要求于美国东部时间1月18日21时关闭托管TikTok数据的服务器。这意味着,TikTok在美国的数据存储和访问将受到严重影响,可能导致该应用在短时间内无法恢复正常使用。 TikTok作为一款备受欢迎
    的头像 发表于 01-20 14:48 886次阅读

    Deno Land 请愿剥夺甲骨文 JavaScript 商标所有权

    认为,自甲骨文于2009年从 Sun Microsystems 收购 JavaScript 商标以来,并未实际销售任何与该商标相关的商品或提供任何相关服务。基于这一理由,Deno Land 主张甲骨文
    的头像 发表于 01-15 15:37 637次阅读

    西门子与甲骨文红牛车队二十载创新同行

    。 自2004年结缘以来,西门子与甲骨文红牛车队便紧密合作,致力于推动赛车技术的不断革新。西门子Xcelerator工业软件解决方案成为了甲骨文红牛车队构建工程基础设施的重要基石。凭借这一强大的技术支持,车队成功
    的头像 发表于 12-23 18:02 981次阅读