0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

轻薄本AI应用深度测试,锐龙7 7840S大战酷睿i7-13700H

jf_MYvksKR0 来源:Microcompute 2023-11-23 17:17 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

AI,特别是生成式AI已经成为科技圈最热门的话题之一。ChatGPT、Midjourney、NewBing、Stable Diffusion、Firefly AI、文心一言、360智脑、通义千问……你就算没有用过这些热门的AI工具,至少也在朋友圈、微博以及其它互联网平台看到过关于它们的资讯。目前生成式AI已经在全球范围内引起了广泛且热烈的关注和讨论,各行各业的未来,几乎都在向着AI领域前进。

对于x86阵营的笔记本电脑来说,AMD今年率先推出Ryzen AI引擎,也率先带领锐龙笔记本电脑进入AI时代。那么问题来了,和普通笔记本相比,AI笔记本能带来怎样的体验呢?

Ryzen AI:AI笔记本的性能基石

从广义上来讲,AI涵盖了机器学习深度学习、自然语言处理、计算机视觉等多个领域,实现它们的手段主要是依靠机器学习训练和推理。一般来讲,很多机器学习引擎和模型都能在CPUGPU上运行,但对于笔记本平台来说,如果让CPU或者GPU来处理机器学习训练和推理任务,那么CPU或者GPU就会长期处于高负载状态,这样一来笔记本将更费电,而且效率也很低。因此把机器学习训练和推理交给更专业的“角色”来做会是一个更合理的解决方案,而这个“角色”就是独立的AI引擎。

AMD率先迈出第一步,它在今年1月份就为x86处理器首次带来了Ryzen AI,这个集成在锐龙7040系列移动处理器中的AI引擎专为AI运算而生。英特尔要在第14代笔记本酷睿Meteor Lake处理器中才会内置一个神经网络计算引擎NPU,也就是要等到下一代才会有类似的设计。

dab73074-7a54-11ee-939d-92fbcf53809c.png

Ryzen AI基于专门设计的AMD XDNA AI架构,其核心是多个独立的AIE单元,而且与传统的CPU多核运算相比,XDNA AI架构有多个独立的内存电压单元、对应的内存控制器并拥有独立的高速互连通道,所以它在进行AI推理时更加灵活,效率更高,性能也更强。

dac980bc-7a54-11ee-939d-92fbcf53809c.png

Ryzen AI支持不同的AI神经网络,比如CNN(卷积神经网络)、RNN(循环神经网)、LSTM(长短时记忆)等。此外,它还支持Int8/16/32、BFloat16等各种高级数据类型,同时它还具备实时多任务能力,可处理最多4条并发空间流,这意味着它能够同时处理多个AI任务,提供更高的处理效率。

Ryzen AI是AMD锐龙笔记本的AI性能基石,它在笔记本平台主要负责轻量级的AI推理工作负载,包括音频、视频和图像处理等任务,能够比CPU或GPU更高效地执行这些任务,并显著降低延迟。要知道目前很多AI计算和应用都是通过云端AI服务器或者本地GPU来实现的,而现在有了x86处理器专属的Ryzen AI,意味着很多AI计算可以在非独显笔记本的端侧就能完成。对于笔记本平台来说,Ryzen AI有着出色的能效比和高算力,它能够为CPU或者GPU分忧,发挥自己高能效的优势。

轻薄本AI应用体验对比

在笔记本中加入Ryzen AI有什么用?实际上Ryzen AI主要的任务是处理AI推理与运算,所以在不少专用的场景以及常见的应用场景中,它能够发挥自己的优势。比如,Ryzen AI能够进行自然语言处理,使笔记本能够解读、处理和理解人类语言。在图像和视频处理方面,Ryzen AI也能快速高效地处理图像和视频数据,完成诸如更换背景、消除噪音、人脸识别、图像分类、图像修复等任务。

目前,AMD已经和微软进行合作,借助Windows Studio Effects来提升Windows系统中关于摄像头的体验。具体来说,Windows Studio Effects可让用户将某些滤镜和效果应用到系统底层的摄像头和麦克风上,以改善用户在视频通话期间的外观和声音,它们需要神经处理单元提供支持。

daf8a342-7a54-11ee-939d-92fbcf53809c.png

▲Ryzen AI笔记本支持Windows Studio Effects(左)和不支持该效果的普通笔记本(右)。

在支持Ryzen AI的笔记本上,我们可以快速启用Windows Studio Effects。最简单的方法就是单击通知区域图标组打开快捷设置,选择“工作室效果”。在默认情况下,你会先看到相机效果。此时你可以方便地对相机效果(背景虚化、眼神交流、自动取景)进行设置。当然,你也可以直接在系统的相机设置中启用Windows Studio Effects,这里的设置项目更加丰富、细致。我们对比一下其他没有配备Ryzen AI的笔记本就能看到,它的相机设置中没有背景虚化、眼神交流、自动取景等功能,这类笔记本如果要使用这些功能,或许只有借助第三方软件才行——而这无疑会增加系统负载,并影响续航。

有了系统底层上的功能支持,就算原生不支持任何视频效果的软件(比如TIM)也能在系统开启相应功能之后,得到背景模糊、眼神接触、自动取景等效果。这些基于Windows的高级功能可以在搭载AMD锐龙7040系列处理器和Ryzen AI的笔记本电脑上直接使用,但目前的酷睿笔记本上则不能使用。

轻薄本AI性能对比测试

除了AI应用上的不同体验之外,普通笔记本和具有Ryzen AI功能的笔记本在AI性能上有多大的差距呢?我们通过两台集显轻薄本来简单对比一下。AMD平台方面,我们选择联想YOGA Air 14s 2023来测试,这台机器搭载联想定制的AMD锐龙7 7840S处理器。这款处理器基于Zen 4架构,采用4nm先进制造工艺,配备8核心16线程,最大加速频率达到5.1GHz,内置Ryzen AI。同时,这款处理器还内置采用RDNA 3架构的Radeon 780M显卡。

db21b0fc-7a54-11ee-939d-92fbcf53809c.png

db380eba-7a54-11ee-939d-92fbcf53809c.png

联想YOGA Air 14s 2023是一款14.5英寸的轻盈本,机身采用轻薄化设计,薄约13.9mm,轻至1.28kg。这台机器采用2944×1840分辨率的PureSight超感OLED屏幕(支持触控),屏幕刷新率达到90Hz,并支持100% DCI-P3色域。此外,这台机器还配备70Wh电池,电池续航支持全天候办公9.5小时。接口方面,这台机器也十分齐全,它配备两个全能的USB4接口、一个全功能USB-C 3.2接口以及一个3.5mm二合一音频接口,不管是外接多台显示器还是鼠标键盘,都能满足用户的需求。

db67062a-7a54-11ee-939d-92fbcf53809c.png

对比的英特尔平台,我们选择一款搭载酷睿i7-13700H的14英寸轻薄本,酷睿i7-13700H处理器采用混合架构,采用Intel 7生产工艺,配备14核心20线程,最大睿频频率达到5.0GHz,这款处理器内置频率为1.5GHz的英特尔锐炬Xe核显,其配备96个EU执行单元。酷睿i7-13700H与锐龙7 7840S处理器最大的不同在于酷睿处理器没有专门的AI引擎。此外,对比的两个平台都采用32GB双通道内存以及1TB PCIe 4.0 SSD

理论AI性能方面,我们主要通过UL AI Inference Benchmark来测试,该软件囊括了Mobile Net V3、Inception V4、YOLO V3、DeepLab V3、Real-ESRGAN和ResNet 50等神经网络模型,支持Microsoft Windows ML、Qualcomm SNPE、英特尔OpenVINO和NVIDIA TensorRT等4种SDK,非常权威和专业。

db969a34-7a54-11ee-939d-92fbcf53809c.png

从测试成绩统计图可以看到,在Microsoft Windows ML测试场景下,Ryzen AI加持的锐龙7 7840S平台在Float32精度下的CPU测试分数为107分,相对于酷睿i7-13700H平台的99分,领先大约8%。我们知道GPU也能进行AI推理和运算,所以再来看看这两款处理器内置的集显的表现。用集显来进行测试的话,可以看到锐龙7 7840S内置的Radeon 780M显卡得到227分,这样的成绩领先酷睿i7-13700H内置的锐炬Xe集显大约104%,Radeon 780M显卡在AI推理和运算中的表现可以说非常出色。从这个测试其实也能看到,无论是CPU还是集显,有着Ryzen AI加成的锐龙7 7840S的AI性能都全面领先于酷睿i7-13700H。

最后再来看看两个平台在实际应用中的表现。知名AI应用厂商Topaz Labs旗下的 Topaz Photo AI、Topaz Video AI等软件已经加入了对Ryzen AI的支持,我们本次通过Topaz Photo AI来测试,Topaz Photo AI主要使用AI技术来分析和增强图像,它可以消除照片噪点、放大照片并提高整体质量。

dba506d2-7a54-11ee-939d-92fbcf53809c.png

Topaz Photo AI软件已经加入了对Ryzen AI的支持,不过由于Ryzen AI集成在CPU中,不会被软件单独识别出来,所以本次对比测试时我们统一在软件中设置为使用CPU加速,然后将一张3840×2466分辨率的图片进行放大6倍并用AI来清除照片噪点,最后来看两个平台进行这两项操作的总耗时,耗时越短表明其越高效。

dbca59c8-7a54-11ee-939d-92fbcf53809c.png

可以说最终的测试结果令人大吃一惊。将一张3840×2466分辨率的图片放大6倍并清除照片噪点,有着Ryzen AI加成的锐龙7 7840S平台仅耗时10秒就完成了操作,速度非常之快。要知道原始图片仅1.65MB大小,放大之后的图片达到40.9MB,分辨率达到23040×14796。对于如此庞大的工作量,锐龙7 7840S平台几乎眨眼间就完成了。相反,没有任何AI引擎加成的酷睿i7-13700H平台,完成这个操作需要98秒,妥妥的是纯CPU在干活,效率非常低。

Stable Diffusion WebUI绘图测试

要说目前最火的AI应用,除了各种在线的大模型生成式对话工具之外,以Stable Diffusion为代表的生成式AIGC工具更是受到大家的广泛追捧。与各类在线AI出图的工具相比,Stable Diffusion拥有出色的高自由度,同时也拥有大量免费的资源,部署在笔记本本地的话,在安全性、私密性、便捷性上也有保障。在Stable Diffusion本地AI出图加速方面,GPU相比CPU有着更大的优势,对于搭载集显的轻薄本而言,这主要考验不同平台的集显性能。那么对于Stable Diffusion本地AI出图,锐龙7 7840S轻薄本和酷睿i7-13700H轻薄本谁的效率更高呢?我们来实战比拼一下。

dbf112f2-7a54-11ee-939d-92fbcf53809c.png

AUTOMATIC1111的Stable Diffusion WebUI支持通过DirectML调用集显来加速,因此我们用秋葉aaaki的Stable Diffusion 4.4整合包来测试。在整合包的启动器中,我们可以单独选择Radeon 780M和锐炬Xe显卡进行加速。在测试中,我们采用墨幽1050 2G模型,具体设置为迭代步数:20、采样器:DPM++ 2M Karras、CFG scale:7、图片分辨率:512×512。

dc0b9f78-7a54-11ee-939d-92fbcf53809c.png

▲Radeon 780M只用57秒就完成了一个批次单图的生成。

dc43911c-7a54-11ee-939d-92fbcf53809c.png

从测试结果来看,锐龙7 7840S处理器内置的Radeon 780M显卡有着出色的表现,用它进行加速,Stable Diffusion WebUI完成一批次单张图片的生成只用了57秒,而酷睿i7-13700H处理器内置的锐炬Xe显卡则需要3分钟9秒才能完成,差距非常大,大大出乎我们的预料。由此可见Radeon 780M在Stable Diffusion WebUI中的表现十分出色。另外,如果我们设置为一个批次连续生成5张图的话,Radeon 780M仅耗时4分钟51秒就完成了任务,而锐炬Xe平台则根本无法完成任务,因为测试时程序直接报错崩溃了。由此可见,在Stable Diffusion本地出图应用中,Radeon 780M的效率远高于锐炬Xe,而且它还有更好的稳定性和可靠性。对于集显轻薄本用户来说,如果你在平时或者工作中需要使用Stable Diffusion,又或者想要尝尝鲜,那么锐龙本才是更好的选择。

双管齐下 轻薄本的AI体验还得看锐龙

今年以来,大模型和生成式AI已经成为科技领域最新的风口!科技公司如果不谈AI,就像落后了几个时代。回到PC领域,此前可能很多人认为笔记本,特别是轻薄本无法胜任AI方面的工作。

dc6522d2-7a54-11ee-939d-92fbcf53809c.png

▲Topaz Photo AI软件支持调用Ryzen AI引擎来完成AI工作

随着Ryzen AI的到来,AMD为我们打开了AI笔记本新世界的大门。在Ryzen AI的加成下,锐龙AI笔记本已经能在视频会议方面带来更出色的体验,也能在Topaz Photo AI、Topaz Video AI等AI应用中带来更高的效率,相信在未来也会有越来越多的应用加入AI功能,并加入对Ryzen AI的支持。

另一方面,从我们的Stable Diffusion WebUI测试也能看到,锐龙7040系列移动处理器内置的RDNA 3显卡同样能提供出色的本地AI加速性能,它在Stable Diffusion WebUI中的出图效率远远领先于锐炬Xe显卡,而且连续出图的稳定性和可靠性也更好。这就是说除了专用于AI加速的Ryzen AI,AMD在轻薄本上还有性能强大的RDNA 3 GPU。这个组合让锐龙轻薄本具备了全面AI加速的能力。

如果说AI是笔记本发展的未来,那么从兼容下一代软件的角度以及AI实际体验的角度来看,双管齐下的锐龙AI笔记本已经拥有很好的先发优势,这是竞争对手目前还无法与之相比的。可以说,现阶段的轻薄本AI体验,还得看锐龙!

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • amd
    amd
    +关注

    关注

    25

    文章

    5647

    浏览量

    139023
  • cpu
    cpu
    +关注

    关注

    68

    文章

    11216

    浏览量

    222945
  • 笔记本电脑
    +关注

    关注

    9

    文章

    1475

    浏览量

    51716

原文标题:轻薄本AI应用深度测试,锐龙7 7840S大战酷睿i7-13700H

文章出处:【微信号:Microcomputer,微信公众号:Microcomputer】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    大显存突破!解锁120B MoE大模型,英特尔Ultra 285H拓展AI新应用

    一段时间,但是我们给它带来了全新的能力,通过软件和配置的升级,让它们做到以前做不到的新的应用场景。 这次重磅官宣的核心亮点在于,大显存跑赢大模型。Ultra9 285H高达128GB系统统一内存,其中超过120GB可作为可变
    的头像 发表于 11-23 08:00 8703次阅读
    大显存突破!解锁120B MoE大模型,英特尔<b class='flag-5'>酷</b><b class='flag-5'>睿</b>Ultra 285<b class='flag-5'>H</b>拓展<b class='flag-5'>AI</b>新应用

    STM32H7R3/S3:高性能微控制器的新标杆

    STMicroelectronics STM32H7R3/S3微控制器采用Arm® Cortex®-M7处理器,时钟频率为600MHz。STMicroelectronics STM32H7
    的头像 发表于 10-21 11:39 483次阅读
    STM32<b class='flag-5'>H7</b>R3/<b class='flag-5'>S</b>3:高性能微控制器的新标杆

    STM32H7S78-DK探索套件深度解析与技术应用指南

    STMicroelectronics STM32H7S78-DK探索套件用于演示和开发基于Arm® Cortex®-M7内核的STM32H7S7L8H6H微控制器
    的头像 发表于 10-20 15:34 481次阅读
    STM32<b class='flag-5'>H7S</b>78-DK探索套件<b class='flag-5'>深度</b>解析与技术应用指南

    TPS7H3302EVM评估模块技术解析

    3A,支持测试DDR、DDR2、 DDR3、DDR3L和DDR4。该评估模块配有方便的测试点和跳线,用于评估TPS7H3302-SEP DDR端子。TPS7H3302EVM评估模块非常
    的头像 发表于 08-27 16:14 708次阅读
    TPS<b class='flag-5'>7H</b>3302EVM评估模块技术解析

    海光电800G光模块助力全球AI基建升级

    测试。 四、合作案例:赋能全球头部客户AI与云计算升级 海光电的解决方案已深入多个行业标杆场景: 数据中心互联:为东南亚某顶级IDC服务商部署800G SR8硅光模块,单机架带宽提升4倍,功耗降低
    发表于 08-13 19:05

    海光电以高效交付与广泛兼容助力AI数据中心800G光模块升级

    全球分支机构提供7×24小时技术支持,确保客户网络长期稳定运行。 海光电与您共创AI未来 在AI算力需求爆发式增长的今天,海光电以技术领
    发表于 08-13 19:01

    加速AI未来,海光电800G OSFP光模块重构数据中心互联标准

    在人工智能算力需求呈指数级增长的2025年,数据传输效率已成为制约AI发展的关键瓶颈。作为全球AI光模块领域的标杆企业,深圳市海光电凭借技术领先的800G OSFP光模块解决方案,正在重新
    发表于 08-13 16:38

    Texas Instruments TPS7H6023EVM-CVAL驱动器评估模块数据手册

    Texas Instruments TPS7H6023EVM-CVAL驱动器评估模块(EVM)设计用于测试和评估TPS7H6023-SP。TPS7H6023-SP是一款辐射硬化22V半
    的头像 发表于 07-30 14:16 558次阅读

    Texas Instruments TPS7H4011EVM-CVAL转换器评估模块数据手册

    Texas Instruments TPS7H4011EVM-CVAL转换器评估模块(EVM)演示单个TPS7H4011-SP降压转换器的运行情况。Texas Instruments TPS7H4011EVM-CVAL的占位面积
    的头像 发表于 07-30 14:07 434次阅读
    Texas Instruments TPS<b class='flag-5'>7H</b>4011EVM-CVAL转换器评估模块数据手册

    Texas Instruments TPS7H1121EVM-CVAL评估模块数据手册

    Texas Instruments TPS7H1121EVM-CVAL评估模块用于演示单个TPS7H1121-SP LDO稳压器的运行情况。该板的占位面积可预装额外元件。TI TPS7H1121EVM-CVAL评估模块使器件能够
    的头像 发表于 07-22 09:59 472次阅读
    Texas Instruments TPS<b class='flag-5'>7H</b>1121EVM-CVAL评估模块数据手册

    在英特尔Ultra AI PC上部署多种图像生成模型

    全新英特尔Ultra 200V系列处理器对比上代Meteor Lake,升级了模块化结构、封装工艺,采用全新性能核与能效核、英特尔硬件线程调度器、Xe2微架构炫GPU、第四代NPU等,由此也带来了CPU性能提升18%,GP
    的头像 发表于 04-02 15:47 1137次阅读
    在英特尔<b class='flag-5'>酷</b><b class='flag-5'>睿</b>Ultra <b class='flag-5'>AI</b> PC上部署多种图像生成模型

    为什么在Ubuntu20.04上使用YOLOv3比Yocto操作系统上的推理快?

    使用 2021.4 OpenVINO™中的 GPU 插件运行带有 YOLOv3 模型的 对象检测 C++ 演示 。 使用 英特尔® i5-1145G7E、英特尔®
    发表于 03-05 06:48

    英特尔 Ultra 9 275HX 成为 PassMark 上最快的笔记本处理器

    IT之家 2 月 10 日消息,计算机硬件基准测试软件 PassMark 日前更新了跑分榜,英特尔 Ultra 9 275HX 成功登顶,超越 AMD
    的头像 发表于 02-12 17:04 1952次阅读
    英特尔<b class='flag-5'>酷</b><b class='flag-5'>睿</b> Ultra 9 275HX 成为 PassMark 上最快的笔记本处理器

    机械革命无界X系列轻薄将预装文心一言

    软通动力旗下PC品牌机械革命无界X系列轻薄本以其高性能、轻薄便携以及丰富的接口配置等特点,在市场上赢得了大量消费者的青睐。目前该系列有无界14X和无界15X两大产品线,覆盖了
    的头像 发表于 01-20 17:26 1149次阅读

    英特尔Ultra 7处理器助力联想YOGA Air 15 Aura AI元启版树立轻薄新标杆

    作为第二代英特尔Ultra 7处理器首发护航产品,年货送礼的难题或许能在这台旗舰级AI PC上找到答案。对于事业有成的亲友,普通的礼品难以打动,奢侈品又显得过于繁复。在这个
    的头像 发表于 12-31 16:05 1918次阅读