0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Ampere AI优化框架如何加速 AI 推理

科技绿洲 来源:安晟培半导体 作者:安晟培半导体 2022-05-26 10:01 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

Microsoft Build 是为来自全球各地的开发人员、工程师、IT 专业人员、学生和初创公司打造的年度技术盛会。今年的会议采用线上的方式,展示 Microsoft 技术、Windows、Office 等技术及应用的最新前沿资讯。

此前,Ampere Computing 和 Microsoft 宣布,双方携手开发了基于全球第一款云原生处理器 Ampere® Altra® 的 Azure 虚拟机(VM),不仅为开发人员带来全新的性能和能效优势,还带来了比 x86 的同款解决方案高出 66% 的优越性价比。

Ampere Computing 受邀以精选合作伙伴身份参加今年的 Microsoft Build 大会,通过演讲、demo 展示、技术趋势探讨等多种方式详细地介绍基于Ampere Altra 的 Azure VM 解决方案,为全球科技迷们创造了大饱眼福的机会。

您可以观看 Ampere Computing 解决方案高级总监 Sean Varley 先生发表的题为 The Essential Nature of Cloud Native Processor: Foundations, Solutions, and Benefits 的演讲,详细介绍了 Ampere Computing 如何通过领先的云原生处理器解决方案助力解决云计算未来十年的难题。

可预测性、可扩展性、高性能、安全和可持续性是助力云计算下一阶段发展的关键。Ampere Computing 推出的全球第一款云原生处理器,具备业界最高能效、最多核数。其中 128 核 Ampere® Altra® Max 在 SpecRate Integer 2017 的 Performance per Socket 跑分高达 360 的顶尖水平,而实际功耗仅为 190 瓦。

目前,Ampere Computing 的解决方案在各种工作负载上都有优秀的表现,包括 Web 服务、内存数据库、缓存、媒体转码和 AI 推理等。您可以点击「阅读原文」前往我们的虚拟展厅观看完整视频。

Ampere 技术专家带来更多精彩内容

Demo Center

带来全方位演示

云原生工作负载(如 NGINX)运行在 Ampere Altra 的 Azure VM 上的性价比远超传统 x86。

Redis 和 Memcached 等云原生工作负载如何在 Ampere Altra 上显示出比传统 x86 高 30% 的性价比优势。

Cloud Native 自动化工具可以在 Azure 上轻松配置 Ampere 虚拟机。

Innovation Center

畅谈云端最新潮流

观看 Victor Jakubiuk 关于“以 Warp Speed 进行 AI 推理”的演讲,了解 Ampere AI 优化框架如何以极少的成本和精力加速 AI 推理。

最大化视频编码的吞吐量需要一致的性能和大量的核心数。John O‘Neill 分享了在 Ampere 处理器上运行的几个视频相关基准测试的结果。

审核编辑:彭静
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 处理器
    +关注

    关注

    68

    文章

    20343

    浏览量

    255359
  • AI
    AI
    +关注

    关注

    91

    文章

    41354

    浏览量

    302735
  • 虚拟机
    +关注

    关注

    1

    文章

    975

    浏览量

    30721
  • Ampere
    +关注

    关注

    1

    文章

    81

    浏览量

    4916
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    HM博学谷狂野AI大模型第四期

    ,为开发者提供了一把打开 AI 黑盒的钥匙。从 Transformer 的矩阵运算到分布式训练的工程调度,再到推理加速的极致优化,这是一次从应用层向底层原理的深度回归。在
    发表于 05-01 17:30

    黑马-Java+AI新版V16零基础就业班百度云网盘下载+Java+AI全栈开发工程师

    差异。 二、Java 推理引擎选型与性能优化AI 模型跑在 JVM 内,最大的技术挑战是性能。传统 Python 生态依靠原生 C++ 后端与高效内存管理获得推理速度,而 Jav
    发表于 05-01 11:29

    [完结15章]Java转 AI高薪领域必备-从0到1打通生产级AI Agent开发

    AI瞬间完成时,仅凭对Spring Boot框架的熟练度已无法构建职业护城河。Java工程师若想拒绝原地踏步,绝不是简单地学一学Python或调用几个API,而是必须将自身深厚的工程化底座与大模型的认知
    发表于 04-30 13:46

    Vibe Coding AI全栈开发实战

    Coding AI全栈开发模式凭借其独特的优势,正成为开发者们提升效率、加速创新的新利器。(搜星 课it。top) Vibe Coding:重新定义开发范式 Vibe Coding,字面意思是“氛围编程
    发表于 04-15 16:02

    是德科技推出全新AI推理仿真平台

    是德科技(NYSE: KEYS)近日推出KAI推理构建器(Keysight AI Inference Builder),这款仿真与分析平台旨在大规模验证针对推理进行优化
    的头像 发表于 03-20 17:27 834次阅读
    是德科技推出全新<b class='flag-5'>AI</b><b class='flag-5'>推理</b>仿真平台

    边缘AI算力临界点:深度解析176TOPS香橙派AI Station的产业价值

    调度与操作系统运行。 2、 10个AI Core (达芬奇架构,1.08GHz):专为高密度的矩阵运算设计,承担神经网络推理。 3、 8个Vector Core (1GHz):辅助进行数据预处理和向量
    发表于 03-10 14:19

    使用NORDIC AI的好处

    ; 自定义 Neuton 模型博客] Axon NPU :集成在 nRF54LM20B 等高端 SoC 中的专用 AI 加速器,对 TensorFlow Lite 模型可实现最高约 15× 推理
    发表于 01-31 23:16

    恩智浦推出全新eIQ Agentic AI框架

    恩智浦半导体宣布推出全新eIQ Agentic AI框架,进一步巩固其在安全实时边缘AI领域的领导地位。该工具支持在边缘设备上直接实现自主智能体功能,助力资深与新手设备开发人员简化并加速
    的头像 发表于 01-13 11:15 1595次阅读

    华为数据存储与「DaoCloud 道客」发布AI推理加速联合解决方案

    AI产业已从“追求模型能力极限”转向“追求推理体验最优化”,推理体验决定用户与AI的交互质感。当前推理
    的头像 发表于 11-28 10:03 494次阅读
    华为数据存储与「DaoCloud 道客」发布<b class='flag-5'>AI</b><b class='flag-5'>推理</b><b class='flag-5'>加速</b>联合解决方案

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片到AGI芯片

    复制人类智能的AI---AGI。 走向AGI的五个层次发现阶段: ①L1,聊天机器人:具备基础的对话能力,能够理解和回应简单的文本输入 ②L2,推理者:具备基本的逻辑推理能力,能够分析复杂信息并进行推断
    发表于 09-18 15:31

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI的科学应用

    主要步骤: ①溯因②假说③实验 1、科学推理的类型 ①演绎②归纳 2、自动化科学发现框架 AI-笛卡儿-----自动化科学发现框架,利用数据和知识来生成和评估候选的科学假说。 4项规
    发表于 09-17 11:45

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片的需求和挑战

    ②Transformer引擎③NVLink Switch系统④机密计算⑤HBM FPGA: 架构的主要特点:可重构逻辑和路由,可以快速实现各种不同形式的神经网络加速。 ASIC: 介绍了几种ASIC AI芯片
    发表于 09-12 16:07

    华为亮相2025金融AI推理应用落地与发展论坛

    创新技术——UCM推理记忆数据管理器,旨在推动AI推理体验升级,提升推理性价比,加速AI商业正循
    的头像 发表于 08-15 09:45 1412次阅读

    信而泰×DeepSeek:AI推理引擎驱动网络智能诊断迈向 “自愈”时代

    模态的技术特性,DeepSeek正加速推动AI在金融、政务、科研及网络智能化等关键领域的深度应用。 信而泰:AI推理引擎赋能网络智能诊断新范式信而泰深度整合DeepSeek-R1大模型
    发表于 07-16 15:29

    Nordic收购 Neuton.AI 关于产品技术的分析

    Nordic Semiconductor 于 2025 年收购了 Neuton.AI,这是一家专注于超小型机器学习(TinyML)解决方案的公司。 Neuton 开发了一种独特的神经网络框架,能够
    发表于 06-28 14:18