0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AIGC加速成长,算力需求变化带来系统级创新

Monika观察 来源:电子发烧友网 作者:莫婷婷 2023-05-30 01:04 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/莫婷婷)随着大模型智能水平的提升,AIGC所需要的算力也在不断增长。根据OpenAI的研究,AI训练所需算力指数增长,且增长速度超越硬件的摩尔定律。燧原科技创新研究院负责人、首席科学家姚建国教授认为,算力分为需求、场景,还有芯片和系统四个层次。算力需求的变化给AI芯片以及系统都带来了一定程度的挑战。

多家厂商发布垂直类大模型,AIGC落地场景逐渐清晰

随着各大公司对AIGC研究的不断深入和技术投入,国内外厂商积极推出属于自己的类ChatGPT模型,例如华为的“盘古”,商汤的“日日新”、深兰科技的“硅基知识”、出门问问的“序列猴子”、深信服的“安全大模型”等等大模型。这么多的大模型,若是放在两年前,业内人士可能会头疼于它的落地场景。

得益于ChatGPT的出现,业内人士看到了更多AIGC落地的可能性,并且推动AI行业进入AIGC时代。百度创始人、董事长兼CEO李彦宏近期公开演讲时就表示,“大模型即将改变世界”。

那么,大模型究竟会如何改变世界呢?这还得从落地场景看。目前,AIGC的典型应用分为文生文、文生图、文生视频。近期中国市场开放一些文生文的应用越来越多,具体的应用包括对话式功能,还支持搜索和营销的场景。

尽管国内厂商还未推出像GPT-4如此强大的通用模型,但是在垂直领域的人工智能大模型却迎来飞跃式的发展,并且有着巨大的想象空间。正如李彦宏提到的,每一个行业都应该有属于自己的大模型。未来技术跟业务深度融合是AIGC发展的最终方向。


算力需求变化带来系统级创新

谈及大模型对算力的需求,姚建国教授表示,AIGC智算中心可以分为三类大模型:基础大模型、场景大模型和应用大模型。

基础大模型通过巨大的算力生成,然后通过预训练算力、超大训练算力支撑,例如ChatGPT。场景大模型是在大模型基础进行调优,通过Fine Tune算力支撑,可以适应不同场景,也就能赋能到不同行业,可以引用一些普惠训练算力。应用大模型主要是通过推理算力,包括云端推理和端侧推理。

对于芯片的需求,基础大模型和场景大模型分别需要大算力训练芯片和中算力训练芯片,且对机器之间的数据互联带宽有较高的要求,都需要高速芯片互联。而应用大模型只需要云端推理算力,且可以使用分布式/单机训练和推理,是性价比较高的大模型之一。

算力肉眼可见地不断增长,燧原科技姚建国教授在公开演讲时也提到了一组数据:从2012年到2018年,训练AI算力增长了30万倍,摩尔定律相同时间通用算力只有7倍的增长。从这里可以看出AIGC对算力需求之高。

算力需求变化带来了三大问题,一是存/算性能失配,内存墙导致访存时延高、效率低;二是冯诺依曼架构下,功耗墙导致传输能耗损失;三是满足大模型需求,性能墙导致算力无法满足。姚建国教授表示,未来不仅仅是单核芯片去解决算力问题,一定会是通过一个系统级解决方案去实现整个算力适应变化。

目前,单独的服务器、集群难以解决大模型的预训练,因此需要有大算力加速,比如说H100提供了Transformer引擎;此外还有机密计算、COP互联加速、CXL协议等等各方面的创新。业内人士普遍认为,系统级创新会是未来的发展趋势

对于大模型未来的发展趋势,IDC中国首席分析师武连峰认为,AI大模型应用深化,从专属AI到通用AI,会是趋势之一。当然,最终实现通用AI的道路还有很长。






声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AIGC
    +关注

    关注

    1

    文章

    393

    浏览量

    3272
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    成都汇阳投资关于AI 引爆需求,存储芯片涨价周期来袭

    。2026年全球AI 服务器出货量预计同比激增 180%,云厂 商资本开支同比提升40%至6000亿美 元 ,建设的加速直接推动存储芯片需求进入指数
    的头像 发表于 03-27 17:12 461次阅读

    苏州市智能产业创新中心正式成立

    2月28日,苏州市智能产业创新中心在中国移动云能力中心正式启动,为苏州智能高质量发展按下“加速
    的头像 发表于 03-03 14:58 740次阅读

    AI需求的爆发加速国产晶振替代进程

    AI爆发推动晶振需求激增,泰晶科技与惠伦晶体凭借高精度、小型化技术抢占光模块核心赛道,高端产品毛利率达50%,加速下迎来黄金发展期。 在全球数字经济
    的头像 发表于 02-12 10:44 1189次阅读

    2025年曙光存储以先进存构建开放的底座并加速AI进化

    数据存储作为AI基础设施的重要组成,战略价值日益凸显。2025年,曙光存储以先进存构建开放的底座、加速AI进化,稳步推进技术创新、产品
    的头像 发表于 01-07 09:39 650次阅读

    积木+3D堆叠!GPNPU架构创新,应对AI推理需求

    电子发烧友网报道(文/李弯弯)2025年,人工智能正式迈入应用推理时代。大模型从实验室走向千行百业,推理需求呈指数爆发。然而,高昂的推理成本与有限的供给之间的矛盾日益凸显,成为制
    的头像 发表于 12-11 08:57 8093次阅读

    湘军,让变成生产

    脑极体
    发布于 :2025年11月25日 22:56:58

    捷智重大更新|API接口全面开放,调用更高效

    人工调度太耗时?业务系统对接总卡壳?捷智重磅升级——租赁平台API接口正式开放,让
    的头像 发表于 11-21 18:41 1096次阅读
    捷智<b class='flag-5'>算</b>重大更新|API接口全面开放,<b class='flag-5'>算</b><b class='flag-5'>力</b>调用更高效

    中科曙光以生态赋能行业创新

    近日,“橘洲”V1端侧版作为国内首个基于国产预训练的视觉基座大模型在长沙上线,惊艳四座。“橘洲”可在手机端实现1024×1024分辨率图像的秒生成,具有成本低、质量高、速度快、轻量级、可离线
    的头像 发表于 09-24 09:26 1406次阅读

    国产飞腾工控机重大突破:推动国产升级!

    当下,已成为衡量国家综合实力和产业竞争的关键指标。随着数字化转型的加速,各行业对
    的头像 发表于 08-22 10:07 579次阅读

    睿海光电领航AI光模块:超快交付与全场景兼容赋能智时代——以创新实力助力全球客户构建高效底座

    到全场景兼容,从800G量产突破到1.6T前瞻布局,睿海光电始终以客户需求为导向,以技术创新为引擎,为全球AI基础设施建设提供坚实底座。凭借智能制造实力与开放生态策略,睿海光电正携手合作伙伴,共同推动智能时代的
    发表于 08-13 19:03

    科技上线赤兔推理引擎服务,创新解锁FP8大模型

    的模型轻量化部署方案。用户通过远程平台预置的模型镜像与AI工具,仅需50%的GPU即可解锁大模型推理、企业知识库搭建、智能体开发,加速
    的头像 发表于 07-30 21:44 1066次阅读

    借势 RISC-V与 AI 浪潮,元石智打造新范式

    在AI技术飞速发展的当下,需求呈指数增长,成为推动行业前行的核心动力。与此同时,RISC-V架构凭借其开源、灵活、可定制等特性,正逐渐崭露头角,为AI
    的头像 发表于 07-25 14:51 818次阅读
    借势 RISC-V与 AI 浪潮,元石智<b class='flag-5'>算</b>打造<b class='flag-5'>算</b><b class='flag-5'>力</b>新范式

    软通智完成超亿A轮融资,加速AI产业布局

    机构跟投。 自2024年成立以来,软通智积极参与全国一体化网建设,以技术驱动互联互通体系构建,
    的头像 发表于 06-18 15:37 714次阅读

    即国力,比克电池如何为AI时代“蓄能

    从车路协同破解出行困局,到AI医生实现千万问诊,再到智能工厂的全球零时差协同——人类正加速迈入以定义生产的“智
    的头像 发表于 06-04 14:22 1268次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>即国力,比克电池如何为AI时代“蓄能

    AIGC基础设施技术架构与行业实践

    代提升1.5倍,内存容量达288GB,适配千亿参数模型训练需求。 国产突破‌:国内首款6nm高性能GPU芯片于2025年5月成功点亮,性能对标国际中端产品,已获亿元订单;国产芯片厂商与高端制程工艺结合,推动
    的头像 发表于 05-29 07:44 1130次阅读
    <b class='flag-5'>AIGC</b><b class='flag-5'>算</b><b class='flag-5'>力</b>基础设施技术架构与行业实践