0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

生成式AI带来的机遇与挑战

趣味科技v 来源:趣味科技v 2023-12-27 14:49 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

在大咖云集的亚马逊云科技re:Invent 2023全球大会现场,大家最关注的焦点话题是什么?

对于这个问题,相信很多人都会不假思索地在第一时间给出答案——生成式AI

然而生成式AI的应用以及大语言模型的训练,都对算力有着极高的需求。身为全球云计算开拓者和领军者,亚马逊云科技认为这意味着怎样的机遇?同时又带来了怎样的挑战?企业可以通过生成式AI实现怎样的转型升级?为了满足客户的迫切需求,亚马逊云科技又提供了怎样的解决方案?

生成式AI带来的机遇与挑战

“生成式AI带来的机遇非常明显,对吧?大家都已经有目共睹。”亚马逊云科技计算和网络副总裁David Brown向趣味科技表示,“我们希望亚马逊云科技能够成为运行这些工作负载的最佳场所,并且已经为此投入了大量资金和资源。”

David Brown指出,生成式AI的发展带来了极其广袤的市场,通过与NVIDIA等合作伙伴的携手合作,以及自研的Amazon Graviton和Amazon Trainium系列定制芯片,亚马逊云科技正在努力为客户提供更好的性价比,希望能够帮助客户以更低的成本引入和运行他们的模型。

而在挑战方面,如何帮助客户理解生成式AI,以及如何利用生成式AI为客户的业务服务,是当下生成式AI应用的难点,也是亚马逊云科技一直在努力的事情。在探索与试验的过程中,亚马逊云科技很快意识到,在Amazon Bedrock模型中为客户提供选择是正确的做法。为此亚马逊云科技在re:Invent 2023全球大会上宣布推出Amazon Bedrock更多模型选择和强大功能,让用户可轻松访问来自AI21 Labs、Anthropic、Cohere、Meta、Stability AI以及亚马逊的多种行业领先的大语言模型和其他模型,从而帮助企业更加轻松地构建适合自身业务的定制化生成式AI应用,极大地降低了生成式AI应用的门槛。

当前面临的另一项挑战,是如何确保在客户需要时提供足够的GPU算力。为此亚马逊云科技一边持续在全球范围内构建数据中心和电力足迹,一边开展了多项技术和服务创新,包括推出Capacity Blocks服务,使得即使是在供应受限的环境中,也能够帮助客户找到电源、GPU和加速器,获得GPU访问权限,从而支持他们的生成式AI工作负载。

努力为客户提供更好性价比

强大的算力自然离不开强劲的芯片。在这方面,亚马逊云科技主要是通过两种方式来实现自己的目标。

一种方式是与NVIDIA的紧密合作。亚马逊云科技与NVIDIA携手进行了大量投资,将最新的NVIDIA GPU引入亚马逊云科技。继成为全球首家提供NVIDIA GH100 Grace Hopper数据中心GPU访问的云服务商之后,NVIDIA创始人、CEO黄仁勋又在re:Invent 2023全球大会现场宣布,亚马逊云科技成为全球首家推出NVIDIA GH200 NVL32实例的云服务商。

“在数据中心运行NVIDIA GPU的工作非常具有挑战性,工程设计非常困难,需要世界上最好的供应商才能做好这些事情。”David Brown表示,“我认为在这方面,亚马逊云科技确实比其他任何公司都要出色。”

另一种方式是投资和设计自己的定制芯片。在re:Invent 2023全球大会上,亚马逊云科技就宣布其自研芯片家族推出Amazon Graviton4和Amazon Trainium2等新一代产品,为生成式AI应用和机器学习训练等广泛的工作负载提供了更高的性价比和能效。其中Graviton4较上一代产品性能提升30%,独立核心增加50%以上,内存带宽提升75%以上;Trainium2较上一代产品训练速度提升4倍,能效提升2倍,并能在EC2 UltraClusters中部署多达100,000个芯片。

“芯片是用户所有工作负载的基础,如果你是一个希望运行生成式AI工作负载的客户,你自然会选择性价比最高、对自己来说最合理的芯片。”David Brown表示,“亚马逊云科技每一代自研芯片都持续提升性价比和能效,为客户提供了基于AMDIntel以及NVIDIA等的最新芯片和实例组合之外的更多选择,这使得Amazon EC2可以为客户虚拟运行几乎所有应用和工作负载,同时也为客户提供了更好的性价比。”

利用生成式AI助力企业转型

如今越来越多的企业都对生成式AI投入了更多的关注。如何将生成式AI技术应用到自身业务,如何实现降本增效,如何为公司带来价值,也成为了广大企业正在努力研究的课题。

“生成式AI太新了,许多客户都在努力研究如何将这一技术应用到自己的业务当中。我真正需要思考的主要是两件事。”David Brown说道。

第一件事,是企业如何利用生成式AI的能力,并想出用这些能力为最终用户构建什么?David Brown认为这是每家企业都在考虑的事情,实际上在亚马逊云科技内部,就有团队通过机器学习实验室与客户合作,帮助他们构建概念证明,以实际测试生成式AI可以为客户业务做些什么。目前在帮助客户构建生成式AI解决方案方面,亚马逊云科技已经取得了很大的成功。

第二件事,是一旦企业有了一个生成式AI解决方案,那么就必须确保公司盈亏能够负担得起它的运行成本。因为如果运行成本太高的话,企业实际上是无法实施部署的。因此亚马逊云科技所做的就是帮助客户找到成本优化的方法。无论是改进开发模型的方式,还是通过像Trainium这样的自研芯片,亚马逊云科技都希望能够真正降低生成式AI应用的成本。

在re:Invent 2023全球大会上,亚马逊云科技数据与机器学习副总裁Swami Sivasubramanian博士在主题演讲中重点介绍了亚马逊云科技推出的生成式AI技术堆栈。该堆栈包括了底层负责训练和推理的基础设施层、中间微调模型需求的工具服务层、上层构建生成式AI应用层等三个重要层级。通过对这三个层级的不断重构,亚马逊云科技能够为客户提供更具性价比和安全性的技术与服务,从而利用生成式AI更好地助力企业转型升级。

摩尔定律失效但芯片仍在进步

说起芯片,很多人都会想起英特尔创始人之一戈登·摩尔多年前提出的大名鼎鼎的“摩尔定律”,也就是集成电路芯片上可容纳的晶体管数目,大约每隔18个月便会增加一倍。

在上个世纪,摩尔定律被证明是有效的,并且着实推动了芯片市场的进步。然而近年来,由于晶体管尺寸和制造工艺的限制,摩尔定律也日益逼近极限。NVIDIA CEO黄仁勋就认为,这种蛮力增加晶体管的方法基本上已经走到了尽头,从而引发了众多业界人士有关“摩尔定律是否已死”的争论。

“摩尔定律的争论非常有趣,如果我们回到上个世纪,有时会看到英特尔工程师们在为如何让下一版CPU晶体管数量翻倍而绞尽脑汁,有时又会看到他们已经实现了晶体管翻倍,反而要为下一代产品故意做一些保留。”谈起摩尔定律的话题,David Brown如是表示,“但是令人惊讶的是,在几十年后的今天,我们似乎已经看到了摩尔定律的极限,因为现阶段物理问题的限制,我们在技术上已经无法再使CPU上的晶体管数量在短期内实现翻倍。”

David Brown指出,事实上除了增加晶体管的数量之外,还有各种各样的其他方法可以提升芯片的性能,包括改变设计芯片的方式,改变构建芯片的方式,改变为芯片提供能量的方式等等。因此即便是摩尔定律失效,也并不意味着芯片不会继续创新和提高性能。这就是Amazon Graviton和Amazon Trainium系列芯片向其他芯片制造商展示的意义所在。

审核编辑:黄飞

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 摩尔定律
    +关注

    关注

    4

    文章

    640

    浏览量

    81196
  • NVIDIA
    +关注

    关注

    14

    文章

    5727

    浏览量

    110298
  • AI
    AI
    +关注

    关注

    91

    文章

    42023

    浏览量

    303097
  • 亚马逊
    +关注

    关注

    8

    文章

    2745

    浏览量

    85940
  • AI算力
    +关注

    关注

    1

    文章

    190

    浏览量

    10056

原文标题:生成式AI算力如此紧张,怎样选择才最划算

文章出处:【微信号:funnytechnology,微信公众号:趣味科技v】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    探索无限可能:生成推荐的演进、前沿与挑战

    )的生成推荐(Generative Recommendations, GRs)正逐步形成一种区别于判别推荐的新范式,展现出替代依赖复杂手工特征的传统推荐系统的强大潜力。本文系统全面地介绍了基于LLM的
    的头像 发表于 10-20 16:42 7063次阅读
    探索无限可能:<b class='flag-5'>生成</b><b class='flag-5'>式</b>推荐的演进、前沿与<b class='flag-5'>挑战</b>

    GlobalData与华为探讨AI对网络基础设施的机遇挑战

    GlobalData 研究总监Emir Halilovic 与华为数据通信产品线NCE数据通信领域总裁王辉共同探讨了人工智能(AI)对网络基础设施带来机遇(高性能网络需求、AI增强的
    的头像 发表于 10-14 14:24 854次阅读

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI的科学应用

    是一种快速反应能力,是直接的感知;灵感是一种通过思考和探索获得的创造性想法,是一种创意。 AI怎么模拟直觉与灵感呢?四、AI代替人类的假说 这可能吗? 用机器来生成假说: 1、直接生成
    发表于 09-17 11:45

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片的需求和挑战

    当今社会,AI已经发展很迅速了,但是你了解AI的发展历程吗?本章作者将为我们打开AI的发展历程以及需求和挑战的面纱。 从2017年开始生成
    发表于 09-12 16:07

    智能体化AI生成AI的区别

    生成 AI 的核心是“生成内容” —— 比如用大模型写报告,是对输入指令的被动响应。而智能体化 AI(Agentic
    的头像 发表于 08-25 17:24 2011次阅读

    生成AI到代理式AI:半导体技术赋能下一波创新浪潮

    AI领域始终在不断演进,我们正见证一场从“生成AI”时代到“代理式AI”时代的深刻变革。这场变革有望重塑各行各业,并释放前所未有的发展
    的头像 发表于 08-21 17:59 1761次阅读
    从<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>到代理式<b class='flag-5'>AI</b>:半导体技术赋能下一波创新浪潮

    生成 AI 重塑自动驾驶仿真:4D 场景生成技术的突破与实践

    生成AI驱动的4D场景技术正解决传统方法效率低、覆盖不足等痛点,如何通过NeRF、3D高斯泼溅等技术实现高保真动态建模?高效生成极端天气等长尾场景?本文为您系统梳理
    的头像 发表于 08-06 11:20 5496次阅读
    <b class='flag-5'>生成</b><b class='flag-5'>式</b> <b class='flag-5'>AI</b> 重塑自动驾驶仿真:4D 场景<b class='flag-5'>生成</b>技术的突破与实践

    NVIDIA recsys-examples在生成推荐系统中的高效实践

    生成 AI 浪潮的推动下,推荐系统领域正经历深刻变革。传统的深度学习推荐模型 (DLRMs) 虽已展现出一定效果,但在捕捉用户兴趣偏好和动态行为序列变化时,常面临可扩展性挑战
    的头像 发表于 07-04 14:43 1383次阅读
    NVIDIA recsys-examples在<b class='flag-5'>生成</b><b class='flag-5'>式</b>推荐系统中的高效实践

    边缘生成AI面临哪些工程挑战

    内就吸引了超过100万用户)在市场上迅速崛起并被广泛采用。而手机用户则经常使用语音搜索功能。这些应用有什么共同点呢?它们都依赖于云端来处理AI工作负载。尽管云端生成
    的头像 发表于 06-25 10:44 1375次阅读
    边缘<b class='flag-5'>生成</b><b class='flag-5'>式</b><b class='flag-5'>AI</b>面临哪些工程<b class='flag-5'>挑战</b>?

    谷歌新一代生成AI媒体模型登陆Vertex AI平台

    我们在 Vertex AI 上推出新一代生成 AI 媒体模型: Imagen 4、Veo 3 和 Lyria 2。
    的头像 发表于 06-18 09:56 1384次阅读

    使用NVIDIA Earth-2生成AI基础模型革新气候建模

    NVIDIA 正通过 cBottle(Climate in a Bottle 的简称)为这项工作带来新的突破,这是全球首个专为以公里尺度分辨率模拟全球气候而设计的生成 AI 基础模型
    的头像 发表于 06-12 15:54 1527次阅读

    AI 时代来袭,手机芯片面临哪些新挑战

    边缘AI生成AI(GenAI)以及下一代通信技术正为本已面临高性能与低功耗压力的手机带来更多计算负载。领先的智能手机厂商正努力应对本地化
    的头像 发表于 06-10 08:34 1445次阅读
    <b class='flag-5'>AI</b> 时代来袭,手机芯片面临哪些新<b class='flag-5'>挑战</b>?

    利用NVIDIA 3D引导生成AI Blueprint控制图像生成

    AI 赋能的图像生成技术突飞猛进,从早期模型会生成手指过多的人类图像,到现在能创造出令人惊叹的逼真视觉效果。即使取得了如此飞跃,仍然存在一个挑战:实现创意掌控。
    的头像 发表于 06-05 09:24 1076次阅读

    SAP与亚马逊云科技推出AI联合创新计划,打造生成AI解决方案,助力客户应对市场波动与供应链复杂性

    北京 2025年5月26日 /美通社/ -- 在SAP蓝宝石大会上,亚马逊云科技与SAP宣布启动全新的AI联合创新计划,帮助合作伙伴构建生成AI应用和智能体,助力客户快速解决实时业务
    的头像 发表于 05-26 16:54 693次阅读

    SAP与亚马逊云科技推出AI联合创新计划,打造生成AI解决方案, 助力客户应对市场波动与供应链复杂性

    北京 ——2025 年 5 月 26 日 在SAP蓝宝石大会上,亚马逊云科技与SAP宣布启动全新的AI联合创新计划,帮助合作伙伴构建生成AI应用和智能体,助力客户快速解决实时业务
    发表于 05-26 11:44 1241次阅读