0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

亚马逊云服务(AWS)利用Gaudi AI处理器,来降低深度学习模型成本

工程师邓生 来源:TechWeb.com.cn 作者:小狐狸 2020-12-10 11:56 次阅读

12月10日消息,据国外媒体报道,亚马逊云服务(AWS)利用Gaudi AI处理器,来降低深度学习模型成本。

随着机器学习使用的增加和复杂性的增加,培训模型的成本和时间对企业来说是一个挑战。

在近日举行的AWS re:Invent 2020大会上,AWS首席执行官安迪·雅西(Andy Jassy)宣布了采用多达8个Habana Gaudi加速器的EC2实例。在机器学习工作负载方面,全新EC2实例的性价比相较目前基于GPU的EC2实例提升高达40%。

AWS EC2产品管理高级经理切坦·卡普尔(Chetan Kapoor)表示,AWS宣布其亚马逊EC2云管理平台将由英特尔旗下Habana Labs的Gaudi加速器提供动力,以提高这一过程的效率。

Gaudi加速器是专为训练深度学习模型而设计的,适用于自然语言处理、对象检测和机器学习训练、分类、推荐以及个性化等工作负载。

Habana Labs成立于2016年,总部位于以色列,是一家AI芯片公司,致力于研发AI处理器。2019年,英特尔耗资近20亿美元收购了该公司。

责任编辑:PSY

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 云服务
    +关注

    关注

    0

    文章

    748

    浏览量

    38625
  • 亚马逊
    +关注

    关注

    8

    文章

    2480

    浏览量

    82370
  • 深度学习
    +关注

    关注

    73

    文章

    5236

    浏览量

    119900
  • AI处理器
    +关注

    关注

    0

    文章

    82

    浏览量

    9376
收藏 人收藏

    评论

    相关推荐

    FPGA在深度学习应用中或将取代GPU

    上涨,因为事实表明,它们的 GPU 在训练和运行 深度学习模型 方面效果明显。实际上,英伟达也已经对自己的业务进行了转型,之前它是一家纯粹做 GPU 和游戏的公司,现在除了作为一家
    发表于 03-21 15:19

    40亿美元!亚马逊投资OpenAI最强竞品

    亚马逊与 Anthropic 的联手,和微软与 OpenAI 的合作相类似,未来 Anthropic 将利用 AWS 的高性能、低成本机器学习
    的头像 发表于 09-26 15:58 406次阅读

    有消息透露称,英特尔Gaudi 2处理器订单增多,Gaudi 3预计明年上市

    此前有消息称,今年 7月,英特尔面向中国市场推出了一款全新的 Gaudi2处理器,主要应用于加速 AI训练及推理。而今这款“特供版”AI处理器
    的头像 发表于 09-20 10:50 670次阅读

    Hold住千亿参数大模型Gaudi®2 有何优势

    Language Model,下文简称:LLM)的加速上,已展现了出众实力,成为业界焦点。 AI技术飞速发展,LLM风起云涌,但由于AI模型尤其是LLM的训练与推理需要消耗大量资源和成本
    的头像 发表于 09-15 19:30 491次阅读
    Hold住千亿参数大<b class='flag-5'>模型</b>,<b class='flag-5'>Gaudi</b>®2 有何优势

    深度学习服务器怎么做 深度学习服务器diy 深度学习服务器主板用什么

    。因此,深度学习服务器逐渐成为了人们进行深度学习实验的必要工具。本文将介绍深度学习服务器的DIY
    的头像 发表于 08-17 16:11 538次阅读

    Gaudi2夹层卡HL-225B数据表

    高迪第二代Al深度学习夹层卡HL-225B专为数据中心的大规模扩展而设计。训练处理器基于第一代高迪的高效架构,目前采用7nm工艺技术,在性能、可扩展性和能效方面实现飞跃。Gaudi2夹
    发表于 08-04 07:54

    GAUDIR HL-2000处理器介绍

    GAUDIRHL-2000是一款先进的Al和DeepLearning Training处理器利用专门构建的体系结构,提供卓越的性能、可扩展性、电源效率和成本节约。Gaudi HL-2
    发表于 08-04 07:23

    HLS-GAUD12深度学习服务器数据资料

    相关联,该架构专门为Al培训和推理而构建,并且能够使用标准接口和fuil软件包、参考模型和操作指南扩展到大量处理器。 8个Gaudi2板卡内部互连,使用从每个Gaudi2到其他7个
    发表于 08-04 06:58

    Gaudi Training系统介绍

    用于高效渲染图形,而不是执行深度学习工作负载。深度学习工作负载的GPU效率低下严重影响了平台和数据中心的运营
    发表于 08-04 06:48

    Gaudi2架构和软件的全面解释

    Gaudi®2是哈瓦那的第二代深度学习加速,支持训练和推理。 Gaudi®在DL1实例中首次在AWS
    发表于 08-04 06:15

    模型算力新选择——宝德AI服务器采用8颗英特尔Gaudi®2加速器

    近日,英特尔专门针对中国市场推出深度学习加速器Habana® Gaudi®2.以领先的性价比优势,加速AI训练及推理,提高深度
    的头像 发表于 07-19 14:43 490次阅读

    英特尔面向中国市场发布Gaudi2处理器,加速大模型训练和推理

    推出的GaudiAI加速器,将通过其合作伙伴浪潮提供给中国客户。   Gaudi2在训练和推理上的出色表现   英特尔此次推出的Gaudi2深度
    的头像 发表于 07-17 00:01 1277次阅读
    英特尔面向中国市场发布<b class='flag-5'>Gaudi</b>2<b class='flag-5'>处理器</b>,加速大<b class='flag-5'>模型</b>训练和推理

    英特尔全新Gaudi2处理器面世中国市场,加速大规模深度学习训练与推理

    7月11日,英特尔AI产品战略暨Gaudi2新品发布会在京举行。会上,英特尔正式于中国市场推出第二代Gaudi深度学习加速器——Habana
    的头像 发表于 07-14 20:10 379次阅读
    英特尔全新<b class='flag-5'>Gaudi</b>2<b class='flag-5'>处理器</b>面世中国市场,加速大规模<b class='flag-5'>深度</b><b class='flag-5'>学习</b>训练与推理

    深度学习而生,英特尔全新Gaudi2处理器正式登陆中国

    英特尔AI产品战略暨Gaudi2新品发布会在京举行。会上,英特尔正式于中国市场推出第二代Gaudi深度学习加速器——Habana®
    的头像 发表于 07-13 09:48 543次阅读

    ​使用AWS Graviton降低Amazon SageMaker推理成本

    托管的服务,并与MLOps工具集成,因此您可以努力扩展模型部署,降低推理成本,在生产中更有效地管理模型,并减轻操作负担。SageMaker提
    的头像 发表于 05-28 09:31 471次阅读
    ​使用<b class='flag-5'>AWS</b> Graviton<b class='flag-5'>降低</b>Amazon SageMaker推理<b class='flag-5'>成本</b>