0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

轻薄本AI应用深度测试,锐龙7 7840S大战酷睿i7-13700H

jf_MYvksKR0 来源:Microcompute 2023-11-23 17:17 次阅读

AI,特别是生成式AI已经成为科技圈最热门的话题之一。ChatGPT、Midjourney、NewBing、Stable Diffusion、Firefly AI、文心一言、360智脑、通义千问……你就算没有用过这些热门的AI工具,至少也在朋友圈、微博以及其它互联网平台看到过关于它们的资讯。目前生成式AI已经在全球范围内引起了广泛且热烈的关注和讨论,各行各业的未来,几乎都在向着AI领域前进。

对于x86阵营的笔记本电脑来说,AMD今年率先推出Ryzen AI引擎,也率先带领锐龙笔记本电脑进入AI时代。那么问题来了,和普通笔记本相比,AI笔记本能带来怎样的体验呢?

Ryzen AI:AI笔记本的性能基石

从广义上来讲,AI涵盖了机器学习深度学习、自然语言处理、计算机视觉等多个领域,实现它们的手段主要是依靠机器学习训练和推理。一般来讲,很多机器学习引擎和模型都能在CPUGPU上运行,但对于笔记本平台来说,如果让CPU或者GPU来处理机器学习训练和推理任务,那么CPU或者GPU就会长期处于高负载状态,这样一来笔记本将更费电,而且效率也很低。因此把机器学习训练和推理交给更专业的“角色”来做会是一个更合理的解决方案,而这个“角色”就是独立的AI引擎。

AMD率先迈出第一步,它在今年1月份就为x86处理器首次带来了Ryzen AI,这个集成在锐龙7040系列移动处理器中的AI引擎专为AI运算而生。英特尔要在第14代笔记本酷睿Meteor Lake处理器中才会内置一个神经网络计算引擎NPU,也就是要等到下一代才会有类似的设计。

dab73074-7a54-11ee-939d-92fbcf53809c.png

Ryzen AI基于专门设计的AMD XDNA AI架构,其核心是多个独立的AIE单元,而且与传统的CPU多核运算相比,XDNA AI架构有多个独立的内存电压单元、对应的内存控制器并拥有独立的高速互连通道,所以它在进行AI推理时更加灵活,效率更高,性能也更强。

dac980bc-7a54-11ee-939d-92fbcf53809c.png

Ryzen AI支持不同的AI神经网络,比如CNN(卷积神经网络)、RNN(循环神经网)、LSTM(长短时记忆)等。此外,它还支持Int8/16/32、BFloat16等各种高级数据类型,同时它还具备实时多任务能力,可处理最多4条并发空间流,这意味着它能够同时处理多个AI任务,提供更高的处理效率。

Ryzen AI是AMD锐龙笔记本的AI性能基石,它在笔记本平台主要负责轻量级的AI推理工作负载,包括音频视频和图像处理等任务,能够比CPU或GPU更高效地执行这些任务,并显著降低延迟。要知道目前很多AI计算和应用都是通过云端AI服务器或者本地GPU来实现的,而现在有了x86处理器专属的Ryzen AI,意味着很多AI计算可以在非独显笔记本的端侧就能完成。对于笔记本平台来说,Ryzen AI有着出色的能效比和高算力,它能够为CPU或者GPU分忧,发挥自己高能效的优势。

轻薄本AI应用体验对比

在笔记本中加入Ryzen AI有什么用?实际上Ryzen AI主要的任务是处理AI推理与运算,所以在不少专用的场景以及常见的应用场景中,它能够发挥自己的优势。比如,Ryzen AI能够进行自然语言处理,使笔记本能够解读、处理和理解人类语言。在图像和视频处理方面,Ryzen AI也能快速高效地处理图像和视频数据,完成诸如更换背景、消除噪音、人脸识别、图像分类、图像修复等任务。

目前,AMD已经和微软进行合作,借助Windows Studio Effects来提升Windows系统中关于摄像头的体验。具体来说,Windows Studio Effects可让用户将某些滤镜和效果应用到系统底层的摄像头和麦克风上,以改善用户在视频通话期间的外观和声音,它们需要神经处理单元提供支持。

daf8a342-7a54-11ee-939d-92fbcf53809c.png

▲Ryzen AI笔记本支持Windows Studio Effects(左)和不支持该效果的普通笔记本(右)。

在支持Ryzen AI的笔记本上,我们可以快速启用Windows Studio Effects。最简单的方法就是单击通知区域图标组打开快捷设置,选择“工作室效果”。在默认情况下,你会先看到相机效果。此时你可以方便地对相机效果(背景虚化、眼神交流、自动取景)进行设置。当然,你也可以直接在系统的相机设置中启用Windows Studio Effects,这里的设置项目更加丰富、细致。我们对比一下其他没有配备Ryzen AI的笔记本就能看到,它的相机设置中没有背景虚化、眼神交流、自动取景等功能,这类笔记本如果要使用这些功能,或许只有借助第三方软件才行——而这无疑会增加系统负载,并影响续航。

有了系统底层上的功能支持,就算原生不支持任何视频效果的软件(比如TIM)也能在系统开启相应功能之后,得到背景模糊、眼神接触、自动取景等效果。这些基于Windows的高级功能可以在搭载AMD锐龙7040系列处理器和Ryzen AI的笔记本电脑上直接使用,但目前的酷睿笔记本上则不能使用。

轻薄本AI性能对比测试

除了AI应用上的不同体验之外,普通笔记本和具有Ryzen AI功能的笔记本在AI性能上有多大的差距呢?我们通过两台集显轻薄本来简单对比一下。AMD平台方面,我们选择联想YOGA Air 14s 2023来测试,这台机器搭载联想定制的AMD锐龙7 7840S处理器。这款处理器基于Zen 4架构,采用4nm先进制造工艺,配备8核心16线程,最大加速频率达到5.1GHz,内置Ryzen AI。同时,这款处理器还内置采用RDNA 3架构的Radeon 780M显卡。

db21b0fc-7a54-11ee-939d-92fbcf53809c.png

db380eba-7a54-11ee-939d-92fbcf53809c.png

联想YOGA Air 14s 2023是一款14.5英寸的轻盈本,机身采用轻薄化设计,薄约13.9mm,轻至1.28kg。这台机器采用2944×1840分辨率的PureSight超感OLED屏幕(支持触控),屏幕刷新率达到90Hz,并支持100% DCI-P3色域。此外,这台机器还配备70Wh电池,电池续航支持全天候办公9.5小时。接口方面,这台机器也十分齐全,它配备两个全能的USB4接口、一个全功能USB-C 3.2接口以及一个3.5mm二合一音频接口,不管是外接多台显示器还是鼠标键盘,都能满足用户的需求。

db67062a-7a54-11ee-939d-92fbcf53809c.png

对比的英特尔平台,我们选择一款搭载酷睿i7-13700H的14英寸轻薄本,酷睿i7-13700H处理器采用混合架构,采用Intel 7生产工艺,配备14核心20线程,最大睿频频率达到5.0GHz,这款处理器内置频率为1.5GHz的英特尔锐炬Xe核显,其配备96个EU执行单元。酷睿i7-13700H与锐龙7 7840S处理器最大的不同在于酷睿处理器没有专门的AI引擎。此外,对比的两个平台都采用32GB双通道内存以及1TB PCIe 4.0 SSD

理论AI性能方面,我们主要通过UL AI Inference Benchmark来测试,该软件囊括了Mobile Net V3、Inception V4、YOLO V3、DeepLab V3、Real-ESRGAN和ResNet 50等神经网络模型,支持Microsoft Windows ML、Qualcomm SNPE、英特尔OpenVINO和NVIDIA TensorRT等4种SDK,非常权威和专业。

db969a34-7a54-11ee-939d-92fbcf53809c.png

从测试成绩统计图可以看到,在Microsoft Windows ML测试场景下,Ryzen AI加持的锐龙7 7840S平台在Float32精度下的CPU测试分数为107分,相对于酷睿i7-13700H平台的99分,领先大约8%。我们知道GPU也能进行AI推理和运算,所以再来看看这两款处理器内置的集显的表现。用集显来进行测试的话,可以看到锐龙7 7840S内置的Radeon 780M显卡得到227分,这样的成绩领先酷睿i7-13700H内置的锐炬Xe集显大约104%,Radeon 780M显卡在AI推理和运算中的表现可以说非常出色。从这个测试其实也能看到,无论是CPU还是集显,有着Ryzen AI加成的锐龙7 7840S的AI性能都全面领先于酷睿i7-13700H。

最后再来看看两个平台在实际应用中的表现。知名AI应用厂商Topaz Labs旗下的 Topaz Photo AI、Topaz Video AI等软件已经加入了对Ryzen AI的支持,我们本次通过Topaz Photo AI来测试,Topaz Photo AI主要使用AI技术来分析和增强图像,它可以消除照片噪点、放大照片并提高整体质量。

dba506d2-7a54-11ee-939d-92fbcf53809c.png

Topaz Photo AI软件已经加入了对Ryzen AI的支持,不过由于Ryzen AI集成在CPU中,不会被软件单独识别出来,所以本次对比测试时我们统一在软件中设置为使用CPU加速,然后将一张3840×2466分辨率的图片进行放大6倍并用AI来清除照片噪点,最后来看两个平台进行这两项操作的总耗时,耗时越短表明其越高效。

dbca59c8-7a54-11ee-939d-92fbcf53809c.png

可以说最终的测试结果令人大吃一惊。将一张3840×2466分辨率的图片放大6倍并清除照片噪点,有着Ryzen AI加成的锐龙7 7840S平台仅耗时10秒就完成了操作,速度非常之快。要知道原始图片仅1.65MB大小,放大之后的图片达到40.9MB,分辨率达到23040×14796。对于如此庞大的工作量,锐龙7 7840S平台几乎眨眼间就完成了。相反,没有任何AI引擎加成的酷睿i7-13700H平台,完成这个操作需要98秒,妥妥的是纯CPU在干活,效率非常低。

Stable Diffusion WebUI绘图测试

要说目前最火的AI应用,除了各种在线的大模型生成式对话工具之外,以Stable Diffusion为代表的生成式AIGC工具更是受到大家的广泛追捧。与各类在线AI出图的工具相比,Stable Diffusion拥有出色的高自由度,同时也拥有大量免费的资源,部署在笔记本本地的话,在安全性、私密性、便捷性上也有保障。在Stable Diffusion本地AI出图加速方面,GPU相比CPU有着更大的优势,对于搭载集显的轻薄本而言,这主要考验不同平台的集显性能。那么对于Stable Diffusion本地AI出图,锐龙7 7840S轻薄本和酷睿i7-13700H轻薄本谁的效率更高呢?我们来实战比拼一下。

dbf112f2-7a54-11ee-939d-92fbcf53809c.png

AUTOMATIC1111的Stable Diffusion WebUI支持通过DirectML调用集显来加速,因此我们用秋葉aaaki的Stable Diffusion 4.4整合包来测试。在整合包的启动器中,我们可以单独选择Radeon 780M和锐炬Xe显卡进行加速。在测试中,我们采用墨幽1050 2G模型,具体设置为迭代步数:20、采样器:DPM++ 2M Karras、CFG scale:7、图片分辨率:512×512。

dc0b9f78-7a54-11ee-939d-92fbcf53809c.png

▲Radeon 780M只用57秒就完成了一个批次单图的生成。

dc43911c-7a54-11ee-939d-92fbcf53809c.png

从测试结果来看,锐龙7 7840S处理器内置的Radeon 780M显卡有着出色的表现,用它进行加速,Stable Diffusion WebUI完成一批次单张图片的生成只用了57秒,而酷睿i7-13700H处理器内置的锐炬Xe显卡则需要3分钟9秒才能完成,差距非常大,大大出乎我们的预料。由此可见Radeon 780M在Stable Diffusion WebUI中的表现十分出色。另外,如果我们设置为一个批次连续生成5张图的话,Radeon 780M仅耗时4分钟51秒就完成了任务,而锐炬Xe平台则根本无法完成任务,因为测试时程序直接报错崩溃了。由此可见,在Stable Diffusion本地出图应用中,Radeon 780M的效率远高于锐炬Xe,而且它还有更好的稳定性和可靠性。对于集显轻薄本用户来说,如果你在平时或者工作中需要使用Stable Diffusion,又或者想要尝尝鲜,那么锐龙本才是更好的选择。

双管齐下 轻薄本的AI体验还得看锐龙

今年以来,大模型和生成式AI已经成为科技领域最新的风口!科技公司如果不谈AI,就像落后了几个时代。回到PC领域,此前可能很多人认为笔记本,特别是轻薄本无法胜任AI方面的工作。

dc6522d2-7a54-11ee-939d-92fbcf53809c.png

▲Topaz Photo AI软件支持调用Ryzen AI引擎来完成AI工作

随着Ryzen AI的到来,AMD为我们打开了AI笔记本新世界的大门。在Ryzen AI的加成下,锐龙AI笔记本已经能在视频会议方面带来更出色的体验,也能在Topaz Photo AI、Topaz Video AI等AI应用中带来更高的效率,相信在未来也会有越来越多的应用加入AI功能,并加入对Ryzen AI的支持。

另一方面,从我们的Stable Diffusion WebUI测试也能看到,锐龙7040系列移动处理器内置的RDNA 3显卡同样能提供出色的本地AI加速性能,它在Stable Diffusion WebUI中的出图效率远远领先于锐炬Xe显卡,而且连续出图的稳定性和可靠性也更好。这就是说除了专用于AI加速的Ryzen AI,AMD在轻薄本上还有性能强大的RDNA 3 GPU。这个组合让锐龙轻薄本具备了全面AI加速的能力。

如果说AI是笔记本发展的未来,那么从兼容下一代软件的角度以及AI实际体验的角度来看,双管齐下的锐龙AI笔记本已经拥有很好的先发优势,这是竞争对手目前还无法与之相比的。可以说,现阶段的轻薄本AI体验,还得看锐龙!

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • amd
    amd
    +关注

    关注

    25

    文章

    5202

    浏览量

    132638
  • cpu
    cpu
    +关注

    关注

    68

    文章

    10451

    浏览量

    206583
  • 笔记本电脑
    +关注

    关注

    9

    文章

    1347

    浏览量

    46600

原文标题:轻薄本AI应用深度测试,锐龙7 7840S大战酷睿i7-13700H

文章出处:【微信号:Microcomputer,微信公众号:Microcomputer】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    主板用STM32H7B3I-DK然后配一个普通的摄像头,可以实现视觉AI吗?

    主板用STM32H7B3I-DK然后配一个普通的摄像头,可以实现视觉AI
    发表于 03-19 06:44

    ai_reloc_network.h引入后,ai_datatypes_format.h和formats_list.h报错的原因?

    当准备使用神经网络的relocatable方式,将ai_reloc_network.h头文件加入程序编译后,ai_datatypes_format.h在cubeIDE和Keilc里分别报如下错误
    发表于 03-14 06:23

    龙芯3A6000性能实测:媲美10代i3、同频超越14代i5

    领先34%、40%! 即便是最新的14代i5-14600K,频率限制在2.5GHz之后,龙芯3A6000也与之不相上下甚至综合实力更强一些,整数性能领先约7%,浮点性能落后不到3%
    发表于 11-29 10:44

    英特尔Ultra 7 155H处理器规格曝光,相比i7-13700H存在不足

    i7-13700H存在不足,还有提升的空间。 Multiable万达宝电商ERP可以对接各个电商平台,协助企业数字化管理各个门店。而根据曝光的数据显示该处理器的规格如下: 7W处理器为 1大核
    的头像 发表于 09-08 10:12 1.2w次阅读

    请问STM32H7B3I-DK可以实现AI吗?

    主板用STM32H7B3I-DK然后配一个普通的摄像头,可以实现视觉AI
    发表于 08-08 08:09

    STM32H747I-DISCO为啥需要双核?

    我正在使用STM32H747I-Disco的开发板, 发现有许多AI相关的例程,但都只用了Cortex-M7核,没有Cortex-M4核的相关代码。 请问STM32H747I-DISC
    发表于 08-05 07:56

    035跟我学:S7-200 SMART USS通信(3)下载测试#硬声创作季

    plcSMARTS7-200
    或许
    发布于 :2023年06月07日 11:57:34

    025跟我学:S7-200 SMART Modbus RTU通信(3)下载测试#硬声创作季

    MODBUSSMARTS7-200
    或许
    发布于 :2023年06月07日 11:54:49

    S7-1200跟我学56-11:支持的数据类型#硬声创作季

    S7-1200
    也许吧
    发布于 :2023年06月01日 09:45:10

    S7-1200跟我学56-12:数据的存取方式#硬声创作季

    S7-1200
    也许吧
    发布于 :2023年06月01日 09:44:56

    S7-1200跟我学56-7:CPU扩展能力#硬声创作季

    S7-1200
    也许吧
    发布于 :2023年06月01日 09:44:32

    S7-1200跟我学56-10:PLC的工作原理#硬声创作季

    S7-1200
    也许吧
    发布于 :2023年06月01日 09:44:15

    S7-1200跟我学56-13:不同存储区的寻址#硬声创作季

    S7-1200
    也许吧
    发布于 :2023年06月01日 09:44:01

    S7-1200跟我学56-8:选型#硬声创作季

    S7-1200
    也许吧
    发布于 :2023年06月01日 09:43:32

    S32DS for ARM v2.2激活错误怎么解决?

    我在我的笔记电脑上安装 S32DS for ARM v2.2,它是激活错误。我的笔记电脑信息包括: 中央处理器:AMD
    发表于 05-12 08:46