0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

Intel AIGC体验:酷睿轻薄本也能玩大语言模型!Arc显卡效率奇高

硬件世界 来源:硬件世界 2023-09-01 15:02 次阅读

一、前言:AI领域不应忘记Intel的存在

今年最为火爆的产业无疑就是AIGC,也就是以AI为主导的生成式内容,包括ChatGPT、AI画图、AI作诗等功能。可以说,只能玩游戏而不支持AIGC的显卡已经不符合时代的需求。

如今NVIDIA 在AI时代一飞冲天,可能会让很多同学误认为只有NVIDIA显卡才支持Stable Diffusion这类的AI应用。

但事实上,还有一家厂商对于AI的投入力度并不逊于NVIDIA,而且在多年前就开始布局AI,它就是芯片巨头Intel公司

a31b8b54-481a-11ee-97a6-92fbcf53809c.jpg

在即将上市的14代酷睿Meteor Lake处理器中,就设计了VPU(Visual Processing Unit)AI单元,这将是Intel首次在CPU中放入独立的AI硬件单元。集成在CPU内部的好处就是能够拥有极低的延迟,在处理一些低负载AI时要优于GPU

更令人想象不到的是,VPU还能对Stable Diffusion提供硬件加速,无需昂贵的独立显卡。这也就意味即将上市的14代酷睿轻薄本将会以更加完整的姿态的拥抱AI。

为了让更多的Intel用户也能体验到AI,Intel还推出了AI 应用 Demo “英特尔大语言模型”,它可以帮助处理一些日常生活以及工作中的一些任务。

这个Demo特别对混合架构的第12/13代酷睿处理器进行了优化,也就是市面上主流的Intel处理器轻薄本就能直接运行,并且会有相当棒的体验。

a3343ca8-481a-11ee-97a6-92fbcf53809c.png

不止CPU, 在GPU领域Intel也做了非常多的努力。年初,Intel推出了基于OpenVINO,AI绘图开源模型Stable?Diffusion可以使用开源图片编辑软件GIMP,让Intel Arc GPU能通过输入关键词实现创意绘图。

不久之后,Intel又推出了基于OpenVINO PyTorch后端的方案,能让Arc A770/A750 GPU直接支持Stable Diffusion WebUI,并且在加速能力方面远强于同价位的NVIDIA GPU。

下文中我们将会进行对比测试,让大家能更为直观的了解Intel Arc GPU的AI性能。

二、英特尔大语言模型体验:13代酷睿轻薄本轻松搞定

这里我们选择了一台通过Intel Evo认证的轻薄本-- ThinkPad X1 Yoga来进行测试,它搭载的是Intel 酷睿i5-1340P处理器。

a3f1f96e-481a-11ee-97a6-92fbcf53809c.jpg

英特尔大语言模型应用拥有“聊天助手”、“情感分析”、“中文翻译”、“故事创作”、“生成大纲”、“信息提取”、“美食指南”、“旅游规划”等八大模块,并且还有写代码的能力。

在“聊天助手”中,我们尝试让AI写一首关于安史之乱的七言律诗,虽然结果并不算好,但仍有部分诗句让人眼前一亮,可作为创作借鉴。

a41154bc-481a-11ee-97a6-92fbcf53809c.png

“生成大纲”功能,你只需要说出自己想写怎样的作品,AI就会给你一个故事大纲。

a42d4bc2-481a-11ee-97a6-92fbcf53809c.jpg

“中文翻译”可以翻译一段中文,而且你的提问,AI也是用英文回答。

其他功能模块,有兴趣的同学可以自行摸索体验。

三、Stable Diffusion出图测试:Arc A770 16GB大幅领先RTX 4060

目前Windows端的Stable Diffusion WebUI大多是采用“绘世”启动器,不过可惜的是这款启动器目前只支持NVIDIA GPU,AMD GPU根本无法识别,Intel Arc GPU可以被识别,但却无法启用硬件加速。

因此想要使用Intel显卡来加速Stable Diffusion,需要运行在Linux环境下才能实现。

当然,也并不是说必须得安装一个Linux系统,更简单的途径是使用Docker(容器)。

本次我们的测试即是基于Docker版Stable Diffusion WebUI,参与测试的显卡包括A/I/N三家的4款2000元价位甜点显卡。

a43ee530-481a-11ee-97a6-92fbcf53809c.jpg

可以看到,Arc A770 16GB的确可以支持硬件加速,GPU利用率99%,显存占用超过了8GB,功耗也跑满了190W TGP。

为了将显存占用控制在8GB之下,以便让其他显卡也能顺利测试,我们将出图分辨率设置为640*480。

a45553a6-481a-11ee-97a6-92fbcf53809c.png

测试结果多少还是让人有一些意外。

如果从游戏性能表现来看,RTX 4060比2张Arc GPU都要强不少,但是Stable Diffusion出图更依赖显存,这方面RTX 4060由于被阉割的比较厉害,特别是显存位宽只有128Bit,容量也只有8GB,因为并不是特别适合用来加速Stable Diffusion。

AMD这边,虽然RX 6700 XT拥有12GB大容量显存、192Bit位宽,但由于AMD目前对AI支持力度不够,导致旗下GPU在这方面的表现不尽如人意。

两张Intel GPU的表现有些超越预期,就算是定位更低的Arc A750成绩也与 RTX 4060接近。Arc A770的表现更是大幅超越了对手,领先幅度高达20%。

另外,我们这是限制了出图分辨率。如果使用更高分辨率,或者安装一些其他插件进行AI画面修复,8GB显存是远远不够的,Arc A770 16GB的优势也会更大。

四、总结:AI画图不妨考虑2000元的Intel Arc A770 16GB

此前,当有同学让我推荐能跑AI的显卡时,我会根据预算推荐对应的N卡,但如今的话,我也会考虑I卡。

众所周知,Stable Diffusion对于显存容量和速度有非常苛刻的需求,8GB及以下容量显存会有非常多的限制,比如使用高分辨率出图。

因此,想要认真玩AI画图,16GB或者24GB显存会带来更多的玩法和更好的体验,这也导致了二手RTX 3090 24GB显卡的热销。

当然,即便是2手RTX 3090,其价格也不是普通消费者能够承受的。

纵观当前的GPU市场,Intel Arc A770 16GB可以说是专为AI而生的显卡。这款显卡以低于RTX 4060的售价,提供了后者2倍的显存容量和显存位宽,可以一定程度上治疗好AI玩家的Stable Diffusion显存焦虑症。

虽然Arc A770 16GB游戏性能与RTX 3060处于同一水准,但其AI出图的加速性能却比RTX 4060还要强20%以上。

相比之下,NVIDIA拥有16GB显存的显卡型号相对较少而且售价高昂,比如RTX 4080高达9000元的售价让不少AI玩家望洋兴叹。即便是不久前推出的RTX 4060 16GB,其售价也在4000元左右,几乎2倍于Arc A770 16GB。

因此,对于预算不足的AI玩家来说,Intel Arc A770 16GB在性价比方面的确胜多大多数显卡。

至于AMD,其AI之路还很漫长!

另一方面,AI应用往往都需要强大的算力,而性能并非轻薄本的优势,所以很少有人会把轻薄本和AI联系起来。

Intel则让我们看到了不一样的一面,配备13代酷睿P系列的Evo认证轻薄本上,英特尔大语言模型可以运行得非常流畅,无论写诗、翻译,还是写代码,抑或生产力辅助,都能快速给出相当有帮助的结果,可以大大提升工作效率。

无论是日常办公,还是外出差旅,随手拿出便携的Evo轻薄本,都可以完成一些轻负载的AI推理工作,这在以往可是不敢想象的。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 处理器
    +关注

    关注

    68

    文章

    18288

    浏览量

    222167
  • 显卡
    +关注

    关注

    16

    文章

    2357

    浏览量

    65860
  • 语言模型
    +关注

    关注

    0

    文章

    435

    浏览量

    10047
  • AIGC
    +关注

    关注

    1

    文章

    261

    浏览量

    909

原文标题:Intel AIGC体验:酷睿轻薄本也能玩大语言模型!Arc显卡效率奇高

文章出处:【微信号:hdworld16,微信公众号:硬件世界】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    凌华科技基于 Intel Arc A380E GPU 的全新显卡即将亮相 Embedded World 2024

    凌华科技EGX-PCIE-A380E 集成了Intel Arc GPU,是一款性能强大且高效的PCIeGen4独立显卡 重点摘要: · 凌华科技推出首款基于Intel GPU的
    的头像 发表于 04-10 16:24 165次阅读

    贸泽电子开售支持图像处理和边缘AI加速的 Advantech VEGA-P110 PCIe Intel Arc A370M嵌入式GPU卡

    PCIe Intel® Arc A370M嵌入式GPU卡。这款全新的VEGA-P110 GPU卡采用表现出众的Intel® Arc显卡,可
    发表于 03-11 15:41 232次阅读

    主流级显卡的新选择,Sparkle(撼与科技)Intel Arc A750兽人体验分享

    Arc A系列当中选一个性能不俗,能够满足生产力与游戏需求,价格方面又不会太高的显卡,那么我手上的这张Sparkle(撼与科技)的Intel Arc A750 兽人 OC
    的头像 发表于 12-26 09:29 250次阅读

    模型AIGC蓝皮书

    模型在多领域表现卓越,在自然语言理解、学习能力、视觉听觉识别等领域可以媲美甚至超越人类。提高大模型的创造能力、减少对数据的依赖性、加强隐私保护等将会是大模型迭代的重点。
    的头像 发表于 12-07 10:48 432次阅读
    大<b class='flag-5'>模型</b>与<b class='flag-5'>AIGC</b>蓝皮书

    语言模型简介:基于大语言模型模型全家桶Amazon Bedrock

    本文基于亚马逊云科技推出的大语言模型与生成式AI的全家桶:Bedrock对大语言模型进行介绍。大语言模型
    的头像 发表于 12-04 15:51 408次阅读

    龙芯3A6000性能实测:媲美10代i3、同频超越14代i5

    昨天新一代国产CPU龙芯3A6000正式发布。 按照官方的说法,其总体性能与英特尔2020年上市的第10代四核处理器相当。 发布会上,龙芯中科公布了3A6000和Intel-i3 10100
    发表于 11-29 10:44

    酷睿轻薄本也能运行大语言模型,英特尔推动 PC 生成式 AI 落地

    展示了他们在 AIGC 上的技术方向,并进行了多个应用的演示。 首先,英特尔介绍了他们在大语言模型方面的优化和支持。在我们传统的认知里,运行类似 ChatGPT 这种大语言
    的头像 发表于 08-25 09:26 751次阅读
    酷睿<b class='flag-5'>轻薄</b>本也能运行大<b class='flag-5'>语言</b><b class='flag-5'>模型</b>,英特尔推动 PC 生成式 AI 落地

    一文了解全球AIGC模型

    文章转自「首席数字官」ID:ChiefDigitalOfficer2022年9月6日,一幅由AI生成的画作《太空歌剧院》点燃了AIGC星星之火;ChatGPT的横空出世使AIGC浪潮以燎原之势席卷
    的头像 发表于 08-23 15:19 568次阅读
    一文了解全球<b class='flag-5'>AIGC</b><b class='flag-5'>模型</b>

    在本地跑AIGC,英特尔PC没问题

    现今已不是天降福音或者天网再临,人们开始正视它,理解它,适度利用它。 当然,这一轮 AIGC 浪潮主要发生在云端,无论是 ChatGPT,还是文心一言,通义千问这类大语言模型应用,亦或
    的头像 发表于 08-22 09:40 443次阅读
    在本地跑<b class='flag-5'>AIGC</b>,英特尔PC没问题

    aigc是什么概念?aigc的应用场景

    的一个新的概念和工具,旨在加速机器学习和深度学习的发展,提高人工智能在各个领域的应用效率和质量。AIGC可以帮助开发人员在从数据到模型的整个过程中,更快、更准确地进行模型选择、测试和优
    的头像 发表于 08-21 17:16 3607次阅读

    Intel跑步进入AI PC时代!13代酷睿支持160亿参数大模型Arc显卡提速54%

    。 目前在PC平台上,Intel已发布的12/13代酷睿、Arc A系列显卡,以及即将发布的下一代酷睿,都能满足AIGC对于高算力的需求。 再加上软件生态的构建和
    的头像 发表于 08-21 09:32 743次阅读
    <b class='flag-5'>Intel</b>跑步进入AI PC时代!13代酷睿支持160亿参数大<b class='flag-5'>模型</b>、<b class='flag-5'>Arc</b><b class='flag-5'>显卡</b>提速54%

    浪潮网络助力打造面向AIGC的“三超”网络

    个性化的政务服务和咨询,优化政府与公民的互动方式,提升政务服务的质量和效率。目前,AIGC主要聚焦在大模型训练、MaaS模型服务、AIGC
    的头像 发表于 08-19 15:01 911次阅读

    研华推出首款采用英特尔Arc显卡的工业级GPU卡

    2023年,中国台北-全球智能物联网系统和嵌入式平台提供商研华科技公布与英特尔合作采用Intel Arc显卡开发的工业级GPU图形解决方案。此次合作旨在满足市场对GPU和视觉AI性能日益增长的需求
    发表于 08-15 11:16 495次阅读

    Intel驱动开始默认搜集数据

    Intel最近发布了101.4578 Beta测试版显卡驱动,重点支持Arc锐炫系列,但在常规更新之外,还有一个隐藏点。
    的头像 发表于 08-08 09:33 481次阅读
    <b class='flag-5'>Intel</b>驱动开始默认搜集数据

    AIGC或成为音视频的核心技术之一

    您认为大语言模型的出现和AIGC技术的发展为音视频带来了哪些最直观的变化?
    发表于 07-06 12:47 1288次阅读
    <b class='flag-5'>AIGC</b>或成为音视频的核心技术之一