电子发烧友网报道(文/周凯扬)云服务作为目前市面上利润最大的市场之一,已然成了不少互联网巨头公司的主要业务,而云服务供应商中稳坐头号交椅的,自然是亚马逊的AWS。作为占据全球市场近三分之一,在中国市场仅次于阿里云的公共云平台,亚马逊的云业务成了它最赚钱的业务,甚至在其零售业务开始亏损时,也依然在一己之力撑起亚马逊的利润率。
亚马逊的AWS业务之所以能收获这样的成功,同样离不开硬件。云服务市场初期的竞争很简单,由于硬件用的都是英特尔、AMD这些厂商的服务器产品线,所以差距不大,只能靠虚拟化技术之类的软件架构以及更高的性价比来吸引客户。但为了进一步降低成本,云服务厂商们也纷纷开始自研芯片,亚马逊、谷歌还有阿里巴巴都是如此。
一次成功的收购
对于云服务的基石实例来说,虚拟化是至关重要的。亚马逊此前用到的都是Xen这一开源虚拟化技术,随后在发现Xen在硬件虚拟化上的一些限制之后,亚马逊开始转向另一个开源虚拟化技术KVM。
但也正是这一转变让他们有了重大发现,那就是尽管英特尔和AMD的服务器CPU在虚拟化上越来越成熟,但KVM能与ASIC紧密结合在一起反而能发挥出更大的优势。为此,他们决定发展自己的芯片设计业务。
2015年,亚马逊以未公开的金额收购了一家来自以色列的初创芯片公司Annapurna Labs,而这时的Annapurna Labs甚至没有任何公开的产品,但亚马逊很明显看中了他们在服务器芯片上的开发实力。果不其然,2015年起,带有Annapurna Labs标志的ASIC芯片开始出现在Project Nitro中,只不过大部分ASIC芯片都只是作为网络/存储卸载卡,上,每个实例的硬件主体大部分还是英特尔的x86 CPU。
2018年,第一代AWS Graviton面世,作为亚马逊自研的ARM服务器CPU方案,基于该处理器的实例在使用成本上要低于基于x86的方案,收获了不少用户的同时,也扩展了ARM的云端开发生态。这之后公布的第二代与第三代AWS Graviton,都为通用工作复杂提供了更高的性价比。
之所以有这么快的迭代速度,与亚马逊以IP为导向的设计路线有关。以AWS Graviton2和Graviton3为例,这两者分别运用了ARM Neoverse N1和Neoverse V1的方案,并不需要亚马逊像Ampere Computing这样的服务器芯片厂商一样,开始考虑自研ARM IP。
AI/ML带来的新一波热潮
提供通用计算托管平台的亚马逊也没有止步于此,他们看上了新的市场,那就是AI/ML。作为“新电力”的人工智能正在为各个行业带去新的生机,但所需的算力也成了转型过程中最大的难题。最初大家指望用CPU来解决AI算力的问题,然而面对全新的计算方式,CPU很快就显得心有余而力不足。
但要去做GPU需要的技术积累可不少,市面上也只有英伟达的GPU在AI/ML上打出了名号,所以亚马逊和许多AI芯片初创公司一样,还是打算从ASIC上出发,推出了Inferentia和Trainium这两款推理和训练芯片。
不过Inferentia和Trainium与Graviton的定位是一样的,亚马逊并不指望从性能上打败如日中天的GPU,而是希望提供一个成本更低延迟更低并支持更多算法的方案,继续发挥云服务在即用即付这一高性价比商业模式上的优势。
与此同时,亚马逊作为全球市占比第一的云服务厂商,单靠自己的硬件是没法实现这样的地位的,所以无论是英伟达的GPU还是英特尔Habana Labs的AI加速器,亚马逊也都有合作部署。
即便Inferentia和Trainium带来了一定的成本和功耗优势,但要想打破当下以GPU主导的AI/ML生态,还面临着不少挑战,英伟达的CUDA已经打造了一个相当庞大的开发社区,要想让开发者迁移到ASIC硬件上,还有庞大的移植工作需要完成。这也是为何亚马逊的Annapurna Labs部门目前开放的100多个职位中,硬件开发的其实只有10多位,余下的大部分还是软件开发岗,大部分AI芯片初创公司也在面临着这类困境,并非独此一家。
结语
在大部分服务器CPU、AI/ML加速器初创公司眼中,直接把硬件卖给各大数据中心和互联网公司并不是唯一的销售途径,能傍上亚马逊、谷歌和阿里巴巴这样的大腿不仅能盈利,还能提高自己产品的普及程度。
这也是为何Ampere Computing的Altra处理器开始陆续出现在Azure、谷歌云和阿里云等平台上,云服务平台自研芯片归根结底还是为了提供性价比更高的方案,但他们的客户还在猛增阶段,只靠闭门造车肯定是没法扩大市场份额的,拥抱更大的硬件生态才能实现共赢。
亚马逊的AWS业务之所以能收获这样的成功,同样离不开硬件。云服务市场初期的竞争很简单,由于硬件用的都是英特尔、AMD这些厂商的服务器产品线,所以差距不大,只能靠虚拟化技术之类的软件架构以及更高的性价比来吸引客户。但为了进一步降低成本,云服务厂商们也纷纷开始自研芯片,亚马逊、谷歌还有阿里巴巴都是如此。
一次成功的收购
对于云服务的基石实例来说,虚拟化是至关重要的。亚马逊此前用到的都是Xen这一开源虚拟化技术,随后在发现Xen在硬件虚拟化上的一些限制之后,亚马逊开始转向另一个开源虚拟化技术KVM。
但也正是这一转变让他们有了重大发现,那就是尽管英特尔和AMD的服务器CPU在虚拟化上越来越成熟,但KVM能与ASIC紧密结合在一起反而能发挥出更大的优势。为此,他们决定发展自己的芯片设计业务。
2015年,亚马逊以未公开的金额收购了一家来自以色列的初创芯片公司Annapurna Labs,而这时的Annapurna Labs甚至没有任何公开的产品,但亚马逊很明显看中了他们在服务器芯片上的开发实力。果不其然,2015年起,带有Annapurna Labs标志的ASIC芯片开始出现在Project Nitro中,只不过大部分ASIC芯片都只是作为网络/存储卸载卡,上,每个实例的硬件主体大部分还是英特尔的x86 CPU。
2018年,第一代AWS Graviton面世,作为亚马逊自研的ARM服务器CPU方案,基于该处理器的实例在使用成本上要低于基于x86的方案,收获了不少用户的同时,也扩展了ARM的云端开发生态。这之后公布的第二代与第三代AWS Graviton,都为通用工作复杂提供了更高的性价比。
之所以有这么快的迭代速度,与亚马逊以IP为导向的设计路线有关。以AWS Graviton2和Graviton3为例,这两者分别运用了ARM Neoverse N1和Neoverse V1的方案,并不需要亚马逊像Ampere Computing这样的服务器芯片厂商一样,开始考虑自研ARM IP。
AI/ML带来的新一波热潮
提供通用计算托管平台的亚马逊也没有止步于此,他们看上了新的市场,那就是AI/ML。作为“新电力”的人工智能正在为各个行业带去新的生机,但所需的算力也成了转型过程中最大的难题。最初大家指望用CPU来解决AI算力的问题,然而面对全新的计算方式,CPU很快就显得心有余而力不足。
但要去做GPU需要的技术积累可不少,市面上也只有英伟达的GPU在AI/ML上打出了名号,所以亚马逊和许多AI芯片初创公司一样,还是打算从ASIC上出发,推出了Inferentia和Trainium这两款推理和训练芯片。
不过Inferentia和Trainium与Graviton的定位是一样的,亚马逊并不指望从性能上打败如日中天的GPU,而是希望提供一个成本更低延迟更低并支持更多算法的方案,继续发挥云服务在即用即付这一高性价比商业模式上的优势。
与此同时,亚马逊作为全球市占比第一的云服务厂商,单靠自己的硬件是没法实现这样的地位的,所以无论是英伟达的GPU还是英特尔Habana Labs的AI加速器,亚马逊也都有合作部署。
即便Inferentia和Trainium带来了一定的成本和功耗优势,但要想打破当下以GPU主导的AI/ML生态,还面临着不少挑战,英伟达的CUDA已经打造了一个相当庞大的开发社区,要想让开发者迁移到ASIC硬件上,还有庞大的移植工作需要完成。这也是为何亚马逊的Annapurna Labs部门目前开放的100多个职位中,硬件开发的其实只有10多位,余下的大部分还是软件开发岗,大部分AI芯片初创公司也在面临着这类困境,并非独此一家。
结语
在大部分服务器CPU、AI/ML加速器初创公司眼中,直接把硬件卖给各大数据中心和互联网公司并不是唯一的销售途径,能傍上亚马逊、谷歌和阿里巴巴这样的大腿不仅能盈利,还能提高自己产品的普及程度。
这也是为何Ampere Computing的Altra处理器开始陆续出现在Azure、谷歌云和阿里云等平台上,云服务平台自研芯片归根结底还是为了提供性价比更高的方案,但他们的客户还在猛增阶段,只靠闭门造车肯定是没法扩大市场份额的,拥抱更大的硬件生态才能实现共赢。
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。
举报投诉
-
芯片
+关注
关注
462文章
53539浏览量
459158 -
亚马逊
+关注
关注
8文章
2722浏览量
85439
发布评论请先 登录
相关推荐
热点推荐
2025 国内比较成熟的 SD-WAN 服务商有哪些?
当前国内能够提供成熟 SD-WAN 解决方案的厂商,主要集中在三类:传统通信运营商、云计算平台服务商、以及专注网络优化与中小企业接入服务的技术公司。本文将从技术能力、
破局全球化IT挑战:中宇联以亚马逊云科技云服务赋能制造行业数字化转型
在数字化转型浪潮席卷全球的今天,企业上云已不再是选择题,而是必答题。作为国内领先的全栈云MSP(Managed Service Provider)服
上海SD-WAN服务商怎么选?3步骤挑对服务商,附服务商排名!
前言数字化转型浪潮下,一条软件定义的网络高速公路正成为企业竞争的关键筹码,选对服务商能让网络成本降低60%,业务部署速度提升10倍。随着企业数字化转型进入深水区,传统广域网架构在灵活性、成本控制
芯盾时代荣登2025金融信创服务商TOP50榜单
近日,中国科学院《互联网周刊》联合德本咨询、eNet研究院共同发布“2025金融信创服务商TOP 50”榜单。芯盾时代作为领先的零信任业务安全产品方案提供商,凭借卓越的品牌影响力、强大的自主研发能力、创新性的产品方案,以及
亚马逊云科技Marketplace(中国区)正式支持专业服务产品
北京 ——2025 年 2 月 28 日 亚马逊云科技宣布,由西云数据运营的亚马逊云科技Marketplace(中国区)正式支持专业
发表于 02-28 13:42
•330次阅读
聚云科技荣获亚马逊云科技生成式AI能力认证
助力企业加速生成式AI应用落地 北京2025年2月14日 /美通社/ -- 云管理服务提供商聚云科技获得亚马逊
中软国际荣获鸿蒙生态开发服务商卓越奖
、高校和培训机构联动建立的人才培养体系,展望鸿蒙生态将为行业带来的商业新机遇与价值新蓝海。本次会议上,中软国际获颁「2024年度鸿蒙生态开发服务商卓越奖」,中软国际教育获颁「2024年度HarmoryOS人才培养突出贡献奖」,充分体现了华为对公司
Testin云测荣获华为开发者联盟生态市场服务商认证
近日,Testin云测凭借在移动应用测试领域的创新实力和深厚底蕴,为纯血鸿蒙APP发版上架贡献质量保证方案,荣获华为开发者联盟生态市场服务商认证。
Grab选定亚马逊云科技为首选云服务商
近日,在亚马逊云科技2024年re:Invent全球大会上,一项重大合作宣布出炉。东南亚领先的超级应用程序Grab与亚马逊
PingCAP携手亚马逊云科技,加速全球业务拓展
近日,在2024年亚马逊云科技re:Invent全球大会上,一项重要合作得以宣布:数据库即服务(DBaaS)产品TiDB Cloud的领先开
PingCAP选择亚马逊云科技为首选云服务商 加速全球业务拓展
北京2024年12月18日 /美通社/ -- 亚马逊云科技在2024 re:Invent全球大会上宣布,数据库即服务(DBaaS)产品TiDB Cloud的开发
亚马逊转向Trainium芯片,全力投入AI模型训练
近日,亚马逊宣布了一项重大决策,决定停止Inferentia AI芯片的开发,转而将全部精力投入到Trainium芯片的研发上,以此

亚马逊作为第一云服务商在芯片上的投入

评论