0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

解密PC的AI进化:AI大模型如何“压”进PC?

知识酷Pro 来源:虎嗅APP 2024-01-16 15:40 次阅读

当地时间2024年1月9日,2024年国际消费电子展(CES 2024)在美国拉斯维加斯举办。AI for All成为CES大会的关键议题之一。在众多展品当中,被视作个人大模型普惠第一终端的AI PC吸引众多目光。全球最大的PC厂商联想集团更是推出了包括Yoga Pro 9i,ThinkBook Plus Gen 5 Hybrid、全球首款商务AI PC ThinkPad X1 Carbon AI、ThinkCentre neo Ultra在内的一众AI PC产品。那么这些初次登场的AI PC产品身上到底有什么黑科技呢?虎嗅与您一起走进2024CES,为您揭开AI PC神秘的面纱。

奔驰、宝马、大众纷纷把大语言模型接入车机系统,让人能跟汽车自然对话。

三星给冰箱装了个AI识别系统,可以识别食物品种和新鲜度。

LG推出了会问候早安、欢迎回家的家庭AI机器人。

在2024年的CES展上, AI热度仍在持续,各家厂商都在喊AI for All,All in AI之类的口号。

然而对于普通的消费电子用户来说,更关注的似乎还是停留在手边的设备,比如作为我们生产力工具的电脑

AI PC是2024年CES展中最热的词之一,在数据中心业务上赚的盆满钵满的英伟达,也在本次展会上推出了多款聚焦个人、商用电脑的AI硬件产品和应用。包括RTX 4060 Super、RTX 4070 Ti Super 和 RTX 4080 Super三款GPU,将大语言模型(LLM)的处理速度提升了5倍,将AI视频生成速度提高了150%。

英伟达产品管理的高级总监Justin Walker在新闻发布会上强调:“我们已经销售了超过1亿块RTX GPU,这为运行AI应用的个人电脑提供了坚实的硬件基础。”

在PC终端方面,微软在CES大会之前,就宣布将在新款Windows 11电脑上配备Copilot按钮,这是一个专门用于调用现已融入其操作系统人工智能聊天机器人的功能。配备Copilot按钮的首批设备预计将在本月完成上市。值得注意的是,Windows PC键盘布局上次的重大变革还是在30年前。

不过,在AI PC方面走的最靠前的当属联想。从2023年10月的全球TechWorld大会宣布了全线AI PC规划后,仅几个月时间,联想就带着多款AI Ready阶段的AI PC产品亮相CES展。包括赋能创作过程的Yoga Pro 9i,全球第一台可无缝切换笔记本电脑和平板电脑两种模式的ThinkBook Plus Gen 5 Hybrid、全球首款商务AI PC ThinkPad X1 Carbon AI、新一代超小型ThinkCentre neo Ultra等。

无论是AI技术发展,还是PC市场趋势,都预示着AI将会成为2024年的PC行业新的增长引擎。AI PC则成为了传统PC厂商的新增长机会,甚至有可能打破依靠供应链和渠道驱动的业务模式,创造出全新的PC市场趋势和发展模式。

技术大揭秘:把AI装进PC

大模型的通用性、泛化能力都是来自于模型的参数量,从AI大模型热潮爆发至今,模型的参数量不断扩大,对算力的需求也在直线上涨。由此AI需要云端算力,几乎成了业界共识,很多人认为脱离了云服务器的AI PC很难把模型的能力发挥好。

然而,对于个人和商业用户来说,纯粹的云端AI也并不是万能的。随着AI技术的发展和应用场景的多样化,依赖云端AI处理大量数据、提供服务的模式正逐步显现出局限性。

目前的AI云服务主要面临三个比较明显的挑战:成本、安全和响应速度。

而结合云端AI和AI PC类产品的优势,构建的云端+本地的AI模式,很可能会成为未来AI的发展趋势。通过这种模式,大型AI模型可以在云端进行复杂的数据分析和学习,而端侧AI则负责实时、低延迟的任务处理。这种协同工作模式不仅能够弥补单一模式的不足,还可以在保证处理效率的同时,确保用户数据的隐私和安全。

那么,要把云端那些需要英伟达A100、H100显卡才能跑起来的AI大模型,“拖到”小小的个人电脑中,应该怎么做呢?

联想的做法是对大模型进行“压缩”。

AI大模型通常涉及复杂的数据结构(如神经网络的权重矩阵)。这些结构需要频繁地在计算过程中修改和访问,所以在训练和推理过程中需要占用大量内存空间。

以GPT-3为例,它有1750亿个参数。通常情况下,这些参数以32位浮点数(即float32)的形式存储。在32位浮点数中,每个参数需要4字节的存储空间。换算成更常见的单位,这大概相当于700GB。

目前参数量较小的主流AI大模型多位70亿参数或130亿参数,这些“小”模型需要的存储空间,大约也要20GB以上。个人、办公电脑上要运行这些模型,相当困难。

“我们现在做的技术就是如何把这个存储的这些空间降低之后,还能保持原有的模型性能。”联想研究院研究员谢栋介绍说。

联想基于阿里通义千问的7B模型重新做了一个新的模型,在参数量不变的情况下对模型的“体积“进行了大幅度的压缩,谢栋告诉虎嗅:”可能原来一个参数用两个字节来存储,经过压缩,一个参数只有半个字节就可以存储。“

阿里通义千问7B模型的原始大小是14.4GB,在联想的Lenovo AI now中运行的模型则压缩到了4GB。由此,AI大模型+电脑本身的缓存,大概只要5-6G内存就能运行起来。而目前,联想的主流集成显卡笔记本电脑内存都在16G以上,独立显卡的游戏本、高性能本显存都在8G以上,可以轻松运行压缩后的通义千问7B模型。

现在的AI与传统的软件不一样,不是所有的芯片都能跑。AI与硬件之间还有一个中间层叫framework。目前,联想的AI PC正在做的事就是定制自己的framework。

“中间层是决定他能在这样的硬件基础上跑的,第一要能跑,第二还要跑得好”联想全球中小企业产品与解决方案总经理郑爱国告诉虎嗅,“目前我们的专家每天都在和AMDIntel的专家沟通,对他们最新的平台和芯片一个一个地调优,是其能最大限度地适合AI PC的工作和任务。”

目前联想研究院在这个“中间层”的研发工作中担任重要角色,除此之外,联想对AI PC的研发采用了多元化布局。目前最主要的研发任务主要集中在中国和美国。在日本、巴西,以及印度也都有研发分布。联想集团董事长兼CEO杨元庆表示:“创新还有研发一直以来都是联想两个重要的核心能力之一。我们的研发经费在过去几年一直在提升,从不到3%到大概已经4%以上。”

如何用AI PC打出区隔

正在拉斯维加斯举办的2024 CES展上,联想展出了ThinkBook 16P、ThinkPad P1、ThinkPad P16、ThinkBook 13x等多款AI Ready的产品。这些产品的推出,不仅是技术进步的展示,也是联想在AI PC领域策略的体现。

联想集团执行副总裁兼中国区总裁刘军表示:“我们的AI PC目前处在AI Ready的阶段,在2024年4月的联想中国创新科技大会(TechWorld)上,我们将正式宣布我们的个人Agent。”这一声明表明,联想正将AI PC技术与个人助理功能结合,推动AI技术在个人电脑领域的深入应用。

在AI PC的硬件方面,联想计划推出CPU+GPU+NPU的混合AI模式,这种模式可以提高计算效率,优化AI应用的性能。NPU(神经网络计算单元)的引入是对传统CPU和GPU功能的补充,能够更加专注于处理AI相关的任务。这种混合硬件布局不仅适用于PC,也将应用于手机、平板等多种设备,甚至扩展到商业环境和AIOT(AI驱动的IoT)产品。

在软件生态方面,联想的战略是改变传统PC行业甚至是消费电子产品的交互逻辑,从应用交互转向意图交互。这一转变预示着未来的交互方式将更加直观和自然。用户不再需要通过复杂的菜单和步骤来执行任务,而是可以直接通过意图来与设备互动。这种基于意图的交互方式能够大大提高用户体验,使设备更加智能和易用。

在探索这些新领域的同时,对于其他厂商而言,如何在AI PC市场中寻找自己的定位和特色,是一个值得思考的问题。例如,其他厂商可能会在特定的垂直领域内进行深耕,如专注于创意工作的AI应用,或者在安全性、隐私保护方面进行创新。同时,不同厂商可能会选择不同的技术路径或合作伙伴,以寻找差异化的市场机会。

对于整个PC行业来说,AI PC的发展是一个多维度的过程,涉及硬件、软件、用户体验和生态系统等多个层面。联想作为先行者,在AI PC方向上自然会占据一定的先发优势,不过在创新产品的开发,以及AI技术的发展过程中,势必也会遇到各种不确定的问题。

从行业趋势来看,AI PC的未来可能不仅仅局限于个人电脑,而是会扩展到整个智能终端生态系统,包括智能家居、智能汽车等领域。这种趋势下,厂商之间的竞争将不仅仅是硬件和软件的竞争,更是对整个生态系统的理解和布局的竞争。

PC市场的拐点

IDC在2023年底发布的《全球季度个人计算设备跟踪报告》指出,鉴于当前的经济环境和市场状况,对全球PC市场的预测被下调。预计2023年的出货量将比2022年下降13.8%,而2022年的出货量则比上年下降了16.6%。这种连续两年的两位数同比下降在个人电脑市场是前所未有的。不过这种“衰退”趋势可能正在为市场的后续复苏铺平道路。

IDC认为,疫情期间售出的PC产品大多将在2024年面临Windows更新周期。此外,一些失去微软服务支持的旧版Windows系统,将面临2024年升级至Windows 11的压力。

这些因素在短期将会促进2024年PC市场的增长。而从长远来看,PC市场更大的增长动力则很可能源自AI PC带来的革命性升级。

联想集团执行副总裁、智能设备业务集团总裁Luca Rossi在CES期间接受采访时表示:“2023年市场确实遭遇了一些压力。对于2024年全球市场的趋势我们保持谨慎乐观的态度,预见会有少量的增长。我们也乐观地认为,在2024年下半年和2025年,AI PC将在消费和商用市场掀起广泛的换机潮。人工智能电脑将成为转折点,加速更换周期。”

虽然目前全球PC市场中,仅有联想一家在大举落地AI PC,但其它PC行业巨头也都在对AI PC概念保持高度关注。HP和Dell的高管在近期的采访中都表示AI PC必将大幅提升PC的升级换代潜力表示肯定,HP Personal Systems部门总裁Alex Cho认为:AI PC或有望帮助PC行业增长率翻倍。

尽管面临短期挑战,IDC预计2024年及以后的市场将会出现反弹。预计2024年PC市场总量将比2023年增长3.4%,这得益于AI PC对市场升级起到的催化作用。初步针对企业PC市场的某些细分市场,随着用例的进一步发展和成本的降低,AI PC可能会推动更广泛的市场应用。

同时,IDC认为2024年将是PC市场的关键一年,为市场近期的挑战提供了喘息机会。预计2024年之后,出货量的增长将超过大流行前的水平,在2027年达到2.85亿台的峰值。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • PC
    PC
    +关注

    关注

    9

    文章

    1952

    浏览量

    152816
  • 人工智能
    +关注

    关注

    1777

    文章

    43920

    浏览量

    230727
  • 大模型
    +关注

    关注

    2

    文章

    1555

    浏览量

    1150
  • AI大模型
    +关注

    关注

    0

    文章

    205

    浏览量

    97

原文标题:解密PC的AI进化:AI大模型如何“压”进PC?

文章出处:【微信号:ZHISHIKU-Pro,微信公众号:知识酷Pro】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    联想4月18日发布AI PC新品,引领AI PC时代

    联想观点,适应未来趋势,PC产业即将步入基于大模型技术的AI PC阶段,引领PC市场进入第三个重要代际更迭。于是,
    的头像 发表于 03-21 15:28 296次阅读

    AI PC产品密集发布,预计2025年AI PC占全球PC出货量40%

    电子发烧友网报道(文/李弯弯)根据市场机构Canalys近日发布的最新报告,2024年标志着传统PCAI PC的重大转变,预估今年全球AI PC
    的头像 发表于 03-20 01:15 2925次阅读
    <b class='flag-5'>AI</b> <b class='flag-5'>PC</b>产品密集发布,预计2025年<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>占全球<b class='flag-5'>PC</b>出货量40%

    荣耀首款AI PC MagicBook Pro 16发布

    3月13日,荣耀笔记本AI PC技术沟通会在北京举行。在沟通会上,荣耀公布了其领先的AI PC技术架构,荣耀笔记本将会把AI技术与用户体验全
    的头像 发表于 03-19 09:29 361次阅读
    荣耀首款<b class='flag-5'>AI</b> <b class='flag-5'>PC</b> MagicBook Pro 16发布

    新火种AI|全网热炒的“AI PC”,可能是个伪概念

    年9月,英特尔CEO帕特·基辛格在硅谷首次提出了AI PC的概念。 英特尔认为,所谓AI PC,就是能玩转AI功能的
    的头像 发表于 02-18 14:25 273次阅读
    新火种<b class='flag-5'>AI</b>|全网热炒的“<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>”,可能是个伪概念

    扎堆AI PC战场,2024年AI PC落地

    无论是传统的PC制造商如戴尔、联想、惠普,还是软件和芯片巨头如微软、英特尔、AMD和英伟达,都纷纷将AI PC作为展示的重点,预示着这一领域即将迎来爆发式增长。
    的头像 发表于 01-22 15:38 1013次阅读

    什么是AI PCAI手机?AI PCAI手机出现的来龙去脉

    相信大家现在每天经常可以在报章媒体上看到“AI PC”、“AI 手机” 这两个词吧?特别是财经新闻,这几个月时不时就可以看见哪一只股票又因是AI P
    的头像 发表于 01-18 10:43 825次阅读

    AI PC是什么?如何变革PC产业(2023)

    AI PC整合了轻量化AI模型,将实现各种生成式AI应用的离线稳态运行。作为设备、边缘计算和云技术的混合体,
    的头像 发表于 12-27 17:37 766次阅读
    <b class='flag-5'>AI</b> <b class='flag-5'>PC</b>是什么?如何变革<b class='flag-5'>PC</b>产业(2023)

    华硕:2025年AI PC发展迅猛,应用丰富

    胡书宾详细解释道,在2024年依序具备给AI PC提供支持并提升用户体验所需的软件、硬件和AI应用程序等要素,预估AI PC的普及率大约仅几
    的头像 发表于 12-21 10:25 272次阅读

    AI PC有望于2027年成为PC市场主流

    谈及中国AI PC的发展轨迹,王吉平判断,短期内依然处于AI ready的阶段,具备基本的本地混合AI算力。
    的头像 发表于 12-14 10:28 438次阅读

    AI PC风潮来临,2027年达到81%,成为PC市场主流

    结合联想联合IDC发布的首个AI PC产业白皮书,我们了解到AI PC不仅仅是传统硬件,更是涵盖了AI
    的头像 发表于 12-13 09:38 226次阅读

    AI PC 灵魂拷问

    。今年9月英特尔CEO帕特·基辛格在硅谷提出了PC的革命性概念——AI PC。 问题2:什么是AI PC? 答:
    的头像 发表于 12-08 19:15 307次阅读
    <b class='flag-5'>AI</b> <b class='flag-5'>PC</b> 灵魂拷问

    锐龙8040官宣!AMD首创的AI PC性能飙升60% 明年再涨3倍

    北京时间12月7日凌晨,美国加州圣何塞,AMD Advancing AI大会上,AMD一方面公布了AI PC的最新应用进展,另一方面公布了下一代锐龙8040系列、处理器,AI
    的头像 发表于 12-07 10:39 469次阅读
    锐龙8040官宣!AMD首创的<b class='flag-5'>AI</b> <b class='flag-5'>PC</b>性能飙升60% 明年再涨3倍

    AI重新定义PC体验

    ,用户的终端设备将成为真正的智能助手,以更直观、更无缝的方式融入用户的生活。在PC行业中未来蓬勃发展的企业,将是那些期待AI能够实现集成化、个性化体验的世界级企业。 当前,关于生成式AI的热门讨论聚焦在利用云端来运行、训练、推理
    的头像 发表于 12-06 10:15 279次阅读
    <b class='flag-5'>AI</b>重新定义<b class='flag-5'>PC</b>体验

    AI PC:深入变革PC产业(2023)

    软件方面,AI PC整合了轻量化AI模型,将实现各种生成式AI应用的离线稳态运行。作为设备、边缘计算和云技术的混合体,
    的头像 发表于 11-22 17:48 1503次阅读
    <b class='flag-5'>AI</b> <b class='flag-5'>PC</b>:深入变革<b class='flag-5'>PC</b>产业(2023)

    如何看待AI PC短线发展?

    AI PC,即人工智能个人电脑,是将AI技术与PC深度融合,这类PC将搭载更高计算能力的处理器,同时融合多模态算法以重塑
    的头像 发表于 11-10 10:27 390次阅读