0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AIGC加速成长,算力需求变化带来系统级创新

Monika观察 来源:电子发烧友网 作者:莫婷婷 2023-05-30 01:04 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

电子发烧友网报道(文/莫婷婷)随着大模型智能水平的提升,AIGC所需要的算力也在不断增长。根据OpenAI的研究,AI训练所需算力指数增长,且增长速度超越硬件的摩尔定律。燧原科技创新研究院负责人、首席科学家姚建国教授认为,算力分为需求、场景,还有芯片和系统四个层次。算力需求的变化给AI芯片以及系统都带来了一定程度的挑战。

多家厂商发布垂直类大模型,AIGC落地场景逐渐清晰

随着各大公司对AIGC研究的不断深入和技术投入,国内外厂商积极推出属于自己的类ChatGPT模型,例如华为的“盘古”,商汤的“日日新”、深兰科技的“硅基知识”、出门问问的“序列猴子”、深信服的“安全大模型”等等大模型。这么多的大模型,若是放在两年前,业内人士可能会头疼于它的落地场景。

得益于ChatGPT的出现,业内人士看到了更多AIGC落地的可能性,并且推动AI行业进入AIGC时代。百度创始人、董事长兼CEO李彦宏近期公开演讲时就表示,“大模型即将改变世界”。

那么,大模型究竟会如何改变世界呢?这还得从落地场景看。目前,AIGC的典型应用分为文生文、文生图、文生视频。近期中国市场开放一些文生文的应用越来越多,具体的应用包括对话式功能,还支持搜索和营销的场景。

尽管国内厂商还未推出像GPT-4如此强大的通用模型,但是在垂直领域的人工智能大模型却迎来飞跃式的发展,并且有着巨大的想象空间。正如李彦宏提到的,每一个行业都应该有属于自己的大模型。未来技术跟业务深度融合是AIGC发展的最终方向。


算力需求变化带来系统级创新

谈及大模型对算力的需求,姚建国教授表示,AIGC智算中心可以分为三类大模型:基础大模型、场景大模型和应用大模型。

基础大模型通过巨大的算力生成,然后通过预训练算力、超大训练算力支撑,例如ChatGPT。场景大模型是在大模型基础进行调优,通过Fine Tune算力支撑,可以适应不同场景,也就能赋能到不同行业,可以引用一些普惠训练算力。应用大模型主要是通过推理算力,包括云端推理和端侧推理。

对于芯片的需求,基础大模型和场景大模型分别需要大算力训练芯片和中算力训练芯片,且对机器之间的数据互联带宽有较高的要求,都需要高速芯片互联。而应用大模型只需要云端推理算力,且可以使用分布式/单机训练和推理,是性价比较高的大模型之一。

算力肉眼可见地不断增长,燧原科技姚建国教授在公开演讲时也提到了一组数据:从2012年到2018年,训练AI算力增长了30万倍,摩尔定律相同时间通用算力只有7倍的增长。从这里可以看出AIGC对算力需求之高。

算力需求变化带来了三大问题,一是存/算性能失配,内存墙导致访存时延高、效率低;二是冯诺依曼架构下,功耗墙导致传输能耗损失;三是满足大模型需求,性能墙导致算力无法满足。姚建国教授表示,未来不仅仅是单核芯片去解决算力问题,一定会是通过一个系统级解决方案去实现整个算力适应变化。

目前,单独的服务器、集群难以解决大模型的预训练,因此需要有大算力加速,比如说H100提供了Transformer引擎;此外还有机密计算、COP互联加速、CXL协议等等各方面的创新。业内人士普遍认为,系统级创新会是未来的发展趋势

对于大模型未来的发展趋势,IDC中国首席分析师武连峰认为,AI大模型应用深化,从专属AI到通用AI,会是趋势之一。当然,最终实现通用AI的道路还有很长。






声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AIGC
    +关注

    关注

    1

    文章

    391

    浏览量

    3153
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    湘军,让变成生产

    脑极体
    发布于 :2025年11月25日 22:56:58

    中科曙光以生态赋能行业创新

    近日,“橘洲”V1端侧版作为国内首个基于国产预训练的视觉基座大模型在长沙上线,惊艳四座。“橘洲”可在手机端实现1024×1024分辨率图像的秒生成,具有成本低、质量高、速度快、轻量级、可离线
    的头像 发表于 09-24 09:26 826次阅读

    国产飞腾工控机重大突破:推动国产升级!

    当下,已成为衡量国家综合实力和产业竞争的关键指标。随着数字化转型的加速,各行业对
    的头像 发表于 08-22 10:07 336次阅读

    借势 RISC-V与 AI 浪潮,元石智打造新范式

    在AI技术飞速发展的当下,需求呈指数增长,成为推动行业前行的核心动力。与此同时,RISC-V架构凭借其开源、灵活、可定制等特性,正逐渐崭露头角,为AI
    的头像 发表于 07-25 14:51 446次阅读
    借势 RISC-V与 AI 浪潮,元石智<b class='flag-5'>算</b>打造<b class='flag-5'>算</b><b class='flag-5'>力</b>新范式

    软通智完成超亿A轮融资,加速AI产业布局

    机构跟投。 自2024年成立以来,软通智积极参与全国一体化网建设,以技术驱动互联互通体系构建,
    的头像 发表于 06-18 15:37 432次阅读

    即国力,比克电池如何为AI时代“蓄能

    从车路协同破解出行困局,到AI医生实现千万问诊,再到智能工厂的全球零时差协同——人类正加速迈入以定义生产的“智
    的头像 发表于 06-04 14:22 890次阅读
    <b class='flag-5'>算</b><b class='flag-5'>力</b>即国力,比克电池如何为AI时代“蓄能

    AIGC基础设施技术架构与行业实践

    代提升1.5倍,内存容量达288GB,适配千亿参数模型训练需求。 国产突破‌:国内首款6nm高性能GPU芯片于2025年5月成功点亮,性能对标国际中端产品,已获亿元订单;国产芯片厂商与高端制程工艺结合,推动
    的头像 发表于 05-29 07:44 619次阅读
    <b class='flag-5'>AIGC</b><b class='flag-5'>算</b><b class='flag-5'>力</b>基础设施技术架构与行业实践

    维谛技术(Vertiv)发布兆瓦UPS新品,破局高密AI负载供电挑战

    在AI时代,数据中心需要什么样的供电系统?随着AIGC业务需求的快速发展,导致机柜功率密度迅速增加,高密负载对数据中心的影响正日益加大。
    的头像 发表于 04-03 11:01 965次阅读
    维谛技术(Vertiv)发布兆瓦<b class='flag-5'>级</b>UPS新品,破局高密AI<b class='flag-5'>算</b><b class='flag-5'>力</b>负载供电挑战

    DeepSeek推动AI需求:800G光模块的关键作用

    随着人工智能技术的飞速发展,AI需求正以前所未有的速度增长。DeepSeek等大模型的训练与推理任务对
    发表于 03-25 12:00

    AI需求激增,数据中心如何应对能源挑战

      “AI的爆发带来了巨大的需求,为了满足AI大模型的训练和应用推理,智中心的建设将加速
    的头像 发表于 02-22 09:49 1085次阅读
    AI<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>需求</b>激增,数据中心如何应对能源挑战

    DeepSeek驱动AI市场升温,智中心利用率望提升

    据多位业内人士透露,DeepSeek在业界的迅速部署与应用,为AI市场带来了新的热潮。自年后开工两周以来,设备租赁及采购的咨询量显著
    的头像 发表于 02-19 14:00 712次阅读

    云 GPU 加速计算:突破传统瓶颈的利刃

    在数字化时代,数据呈爆炸式增长,传统的已难以满足复杂计算任务的需求。无论是人工智能的深度学习、大数据的分析处理,还是科学研究中的模拟计算,都对
    的头像 发表于 02-17 10:36 520次阅读

    #新年新气象,大家新年快乐!#AIGC入门及鸿蒙入门

    人工智能生成内容(AIGC)和鸿蒙系统是当前科技领域的两个热门话题。以下是对它们的入门指南: AIGC入门 1. 基础概念: AIGC,全称Artificial Intelligen
    发表于 01-13 10:46

    AIGC入门及鸿蒙入门

    人工智能生成内容(AIGC)和鸿蒙系统是当前科技领域的两个热门话题。以下是对它们的入门指南: AIGC入门 1. 基础概念: AIGC,全称Artificial Intelligenc
    发表于 01-13 10:32