0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

英特尔推出了Stratix 10 NX FPGA着眼于AI模型训练和推理

倩倩 来源:百度粉丝网 2020-09-10 16:32 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

FPGA越来越多地用于加速数据中心中的AI工作负载,以完成诸如机器学习推理之类的任务。越来越多的FPGA加速器正在挑战数据中心GPU的部署,从而有望减轻数据中心服务器中已经工作过度的CPU的负担。

本月初,英特尔NASDAQ:INTC)推出了Stratix 10 NX FPGA,着眼于AI模型训练和推理。赛灵思公司(纳斯达克股票代码:XLNX)已经对其在VMware vSphere云计算虚拟化平台上运行的Alveo FPGA进行了验证。

VMware使用Xilinx Alveo U250加速卡进行测试,通过Docker容器提供了机器学习模型,该容器与FPGA制造商的新Vitis AI开发堆栈集成在一起,用于机器学习推理。开源堆栈支持Caffe和TensorFlow框架。

合作伙伴本周报告说,虚拟部署和裸机部署之间机器学习推理的低延迟性能“几乎相同”。

使用直接路径I / O配置,虚拟机内部运行的应用程序可以访问FPGA。该设置绕过了管理程序层,以提高性能并减少延迟

Xilinx在描述vSphere测试结果的博客文章中指出:“测试证明,虚拟机和裸机之间的性能差距在吞吐量和延迟方面均保持在2%以内。”

“这表明在虚拟环境中用于[机器学习]推理的vSphere上Alveo U250的性能几乎与裸机基准相同。”

赛灵思和FPGA竞争对手英特尔正在推广其最新的数据中心加速器卡,以满足客户对异构架构不断增长的需求,并随着客户运行更多的AI工作负载而提高性能。随着延迟的减少,FPGA的发展也得到了推广,以降低与通用CPU中未充分利用的硅片容量相关的成本。

随着新工具的出现,FPGA逐渐进入主流,以挑战GPU加速器,以简化FPGA编程和开发。

例如,Xilinx 的Vitis AI工具被定位为一个开发平台,用于推断从Alveo卡到边缘设备的各种硬件。Vitis包括旨在加快AI推理速度的芯片IP,工具,库和模型。

该工具包与“ AI模型动物园”一起包含“ AI优化器”之类的功能,这些功能旨在将模型压缩多达50倍,以提高AI推理性能。同时,探查器跟踪推理实现的效率和利用率,而AI库运行时包括用于应用程序开发的C ++和Python API

Xilinx AI推理开发堆栈可在GitHub上获得。

同时,竞争对手Stratix 10 NX的推出也使英特尔向异构计算迈进了相似的道路。芯片制造商的战略还包括硬件和软件集成,以及应用程序开发中使用的标准库和框架的集成。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • FPGA
    +关注

    关注

    1664

    文章

    22502

    浏览量

    639225
  • 英特尔
    +关注

    关注

    61

    文章

    10321

    浏览量

    181083
  • 机器学习
    +关注

    关注

    67

    文章

    8564

    浏览量

    137222
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    从18A良率失意到牵手马斯克!英特尔拿回了AI时代的入场券

    代工服务。与此同时,马斯克与英特尔合作的消息也一同传来。   可以看到,在AI模型训练对带宽与功耗提出极致要求,封装技术已经成为决定算力上限的“命门”。
    的头像 发表于 04-09 09:40 1.1w次阅读
    从18A良率失意到牵手马斯克!<b class='flag-5'>英特尔</b>拿回了<b class='flag-5'>AI</b>时代的入场券

    英特尔Arria 10器件:高性能与低功耗的完美结合

    英特尔Arria 10器件:高性能与低功耗的完美结合 在当今电子技术飞速发展的时代,现场可编程门阵列(FPGA)和片上系统(SoC)在众多领域发挥着至关重要的作用。英特尔的Arria
    的头像 发表于 03-29 13:05 263次阅读

    英特尔至强6“芯”动GTC 2026,为英伟达DCG Rubin解锁系统级性能

    的关键阶段,至强系列处理器为GPU加速AI系统,提供架构一致性与强大扩展能力所发挥的重要支撑作用。 英特尔公司副总裁兼数据中心战略项目总经理Jeff McVeigh表示: “当前,AI发展正从大规模
    的头像 发表于 03-19 16:43 385次阅读

    英特尔与华阳通用联手推出全新AI Box解决方案

    英特尔宣布推出基于最新英特尔 酷睿 Ultra 架构的AI Box解决方案,将PC级旗舰算力引入汽车、工业自动化、轨道交通、机器人等多种工业环境,为各行各业接入
    的头像 发表于 03-02 14:15 748次阅读

    英特尔与忆联重磅推出企业级网络存储解决方案

    为应对AI模型时代多元化的存储挑战与存算分离部署需求,英特尔与忆联基于既有合作成果,再度深化协同创新。依托RDMA与NVMe硬件技术,结合SPDK高性能存储服务,重磅推出企业级网络存
    的头像 发表于 02-02 09:14 1269次阅读
    <b class='flag-5'>英特尔</b>与忆联重磅<b class='flag-5'>推出</b>企业级网络存储解决方案

    发力图形工作站和AI推理市场,英特尔大显存GPU亮相湾芯展

    英特尔发布了面向专业的锐炫Pro B50和B60。这两款显卡比较RTX2000和5660Ti,有哪些性能上的优势?在支持AI推理工作站和大模型部署上,B60有哪些独到之处?
    的头像 发表于 10-22 13:40 1.2w次阅读
    发力图形工作站和<b class='flag-5'>AI</b><b class='flag-5'>推理</b>市场,<b class='flag-5'>英特尔</b>大显存GPU亮相湾芯展

    英特尔Gaudi 2E AI加速器为DeepSeek-V3.1提供加速支持

    英特尔® Gaudi 2EAI加速器现已为DeepSeek-V3.1提供深度优化支持。凭借出色的性能和成本效益,英特尔Gaudi 2E以更低的投入、更高的效率,实现从模型训练的深度突破
    的头像 发表于 08-26 19:18 3306次阅读
    <b class='flag-5'>英特尔</b>Gaudi 2E <b class='flag-5'>AI</b>加速器为DeepSeek-V3.1提供加速支持

    美国商务部推进收购英特尔10%股份 估值约达105亿美元

    据外媒报道;美国商务部正在积极推进收购英特尔10%股份。特朗普政府此前已经明确表示政府考虑将英特尔获批的联邦补贴转换为英特尔股权;联邦补贴就是此前的《芯片法案》拨款;估计为
    的头像 发表于 08-20 12:25 885次阅读

    硬件与应用同频共振,英特尔Day 0适配腾讯开源混元大模型

    OpenVINO™ 构建的 AI 软件平台的可扩展性,英特尔助力ISV生态伙伴率先实现应用端Day 0 模型适配,大幅加速了新模型的落地进
    的头像 发表于 08-07 14:42 1534次阅读
    硬件与应用同频共振,<b class='flag-5'>英特尔</b>Day 0适配腾讯开源混元大<b class='flag-5'>模型</b>

    主控CPU全能选手,英特尔至强6助力AI系统高效运转

    2025年3月,英伟达发布了DGX B300 AI加速计算平台。2025年5月,英特尔发布了三款全新英特尔至强6性能核处理器,其中一款6776P被用作是DGX B300的主控CPU,这款处理器究竟
    的头像 发表于 06-27 11:44 1029次阅读
    主控CPU全能选手,<b class='flag-5'>英特尔</b>至强6助力<b class='flag-5'>AI</b>系统高效运转

    英特尔发布边缘AI控制器与边缘智算一体机,创造“AI新视界”

    在2025北京机器视觉展览会(VisionChina)以“AI 视界:英特尔推动智能制造革新浪潮”为主题的英特尔论坛中,英特尔与诺达佳联合发布了 基于
    发表于 06-24 17:50 1569次阅读
    <b class='flag-5'>英特尔</b>发布边缘<b class='flag-5'>AI</b>控制器与边缘智算一体机,创造“<b class='flag-5'>AI</b>新视界”

    英特尔锐炫Pro B系列,边缘AI的“智能引擎”

    2025年6月19日,上海—— 在MWC 25上海期间,英特尔展示了一幅由英特尔锐炫™ Pro B系列GPU所驱动的“实时响应、安全高效、成本可控”的边缘AI图景。 英特尔客户端计算事
    的头像 发表于 06-20 17:32 1050次阅读
    <b class='flag-5'>英特尔</b>锐炫Pro B系列,边缘<b class='flag-5'>AI</b>的“智能引擎”

    直击Computex 2025:英特尔重磅发布新一代GPU,图形和AI性能跃升3.4倍

    B60和英特尔锐炫Pro B50 GPU,AI加速器产品—英特尔Gaudi 3 AI加速器。 英特尔副总裁兼客户端显卡总经理Vivian
    的头像 发表于 05-21 00:57 7753次阅读
    直击Computex 2025:<b class='flag-5'>英特尔</b>重磅发布新一代GPU,图形和<b class='flag-5'>AI</b>性能跃升3.4倍

    直击Computex2025:英特尔重磅发布新一代GPU,图形和AI性能跃升3.4倍

    5月19日,在Computex 2025上,英特尔发布了最新全新图形处理器(GPU)和AI加速器产品系列。包括全新英特尔锐炫™ Pro B系列GPU——英特尔锐炫Pro B60和
    的头像 发表于 05-20 12:27 5660次阅读
    直击Computex2025:<b class='flag-5'>英特尔</b>重磅发布新一代GPU,图形和<b class='flag-5'>AI</b>性能跃升3.4倍

    英特尔发布全新GPU,AI和工作站迎来新选择

    英特尔推出面向准专业用户和AI开发者的英特尔锐炫Pro GPU系列,发布英特尔® Gaudi 3 AI
    发表于 05-20 11:03 1916次阅读