0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AIGC加速成长,算力需求变化带来系统级创新

Monika观察 来源:电子发烧友网 作者:莫婷婷 2023-05-30 01:04 次阅读

电子发烧友网报道(文/莫婷婷)随着大模型智能水平的提升,AIGC所需要的算力也在不断增长。根据OpenAI的研究,AI训练所需算力指数增长,且增长速度超越硬件的摩尔定律。燧原科技创新研究院负责人、首席科学家姚建国教授认为,算力分为需求、场景,还有芯片和系统四个层次。算力需求的变化给AI芯片以及系统都带来了一定程度的挑战。

多家厂商发布垂直类大模型,AIGC落地场景逐渐清晰

随着各大公司对AIGC研究的不断深入和技术投入,国内外厂商积极推出属于自己的类ChatGPT模型,例如华为的“盘古”,商汤的“日日新”、深兰科技的“硅基知识”、出门问问的“序列猴子”、深信服的“安全大模型”等等大模型。这么多的大模型,若是放在两年前,业内人士可能会头疼于它的落地场景。

得益于ChatGPT的出现,业内人士看到了更多AIGC落地的可能性,并且推动AI行业进入AIGC时代。百度创始人、董事长兼CEO李彦宏近期公开演讲时就表示,“大模型即将改变世界”。

那么,大模型究竟会如何改变世界呢?这还得从落地场景看。目前,AIGC的典型应用分为文生文、文生图、文生视频。近期中国市场开放一些文生文的应用越来越多,具体的应用包括对话式功能,还支持搜索和营销的场景。

尽管国内厂商还未推出像GPT-4如此强大的通用模型,但是在垂直领域的人工智能大模型却迎来飞跃式的发展,并且有着巨大的想象空间。正如李彦宏提到的,每一个行业都应该有属于自己的大模型。未来技术跟业务深度融合是AIGC发展的最终方向。


算力需求变化带来系统级创新

谈及大模型对算力的需求,姚建国教授表示,AIGC智算中心可以分为三类大模型:基础大模型、场景大模型和应用大模型。

基础大模型通过巨大的算力生成,然后通过预训练算力、超大训练算力支撑,例如ChatGPT。场景大模型是在大模型基础进行调优,通过Fine Tune算力支撑,可以适应不同场景,也就能赋能到不同行业,可以引用一些普惠训练算力。应用大模型主要是通过推理算力,包括云端推理和端侧推理。

对于芯片的需求,基础大模型和场景大模型分别需要大算力训练芯片和中算力训练芯片,且对机器之间的数据互联带宽有较高的要求,都需要高速芯片互联。而应用大模型只需要云端推理算力,且可以使用分布式/单机训练和推理,是性价比较高的大模型之一。

算力肉眼可见地不断增长,燧原科技姚建国教授在公开演讲时也提到了一组数据:从2012年到2018年,训练AI算力增长了30万倍,摩尔定律相同时间通用算力只有7倍的增长。从这里可以看出AIGC对算力需求之高。

算力需求变化带来了三大问题,一是存/算性能失配,内存墙导致访存时延高、效率低;二是冯诺依曼架构下,功耗墙导致传输能耗损失;三是满足大模型需求,性能墙导致算力无法满足。姚建国教授表示,未来不仅仅是单核芯片去解决算力问题,一定会是通过一个系统级解决方案去实现整个算力适应变化。

目前,单独的服务器、集群难以解决大模型的预训练,因此需要有大算力加速,比如说H100提供了Transformer引擎;此外还有机密计算、COP互联加速、CXL协议等等各方面的创新。业内人士普遍认为,系统级创新会是未来的发展趋势

对于大模型未来的发展趋势,IDC中国首席分析师武连峰认为,AI大模型应用深化,从专属AI到通用AI,会是趋势之一。当然,最终实现通用AI的道路还有很长。






声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AIGC
    +关注

    关注

    1

    文章

    262

    浏览量

    914
收藏 人收藏

    评论

    相关推荐

    能RADXA微服务器试用体验】Radxa Fogwise 1684X Mini 规格

    ChatGLM2-6B、AIGC、Llama2、SAM、Whisper等超大参数模型 还有一份详细的英文的规格表: 另外,能RADXA微服务器服务器,还是大学生集成电路创新创业大赛之# 第八届集创赛杯赛题目
    发表于 02-28 11:21

    当MES项目管理遭遇需求变

    电子发烧友网站提供《当MES项目管理遭遇需求变更.docx》资料免费下载
    发表于 02-21 09:18 0次下载

    大茉莉X16-P,5800M大称王称霸

    Rykj365
    发布于 :2024年01月25日 14:54:52

    莱宝高科:AI笔记本电脑处于市场推广期,建议理性看待潜在需求变化

    目前的人工智能(ai)应用支持的笔记本电脑,对触控功能的需求,但不是必需的纲要,现有用触摸屏笔记本电脑的性能需求和没有本质的区别,所以对潜在的需求变化,客观理性地看待提议。
    的头像 发表于 11-09 11:57 418次阅读

    英码科技精彩亮相火爆的IOTE 2023,多面赋能AIoT产业发展!

    产品,包括覆盖多层次的智能工作站(边缘计算盒子)、AI加速卡等;同时向大家展示自研的AI技术服务——“深元”0代码移植工具链和创新性的行业解决方案,赋能更多AIoT产业生态企业快速
    发表于 09-25 10:03

    昆仑芯科技获评2023值得关注的AIGC公司

    近日,由创业邦主办的2023AIGC技术应用大会在深圳成功举办。大会期间,「2023值得关注的AIGC公司」榜单正式发布。源于对AIGC市场算力需求的深刻洞察,凭借在AI芯片领域的领先
    的头像 发表于 08-31 19:00 854次阅读
    昆仑芯科技获评2023值得关注的<b class='flag-5'>AIGC</b>公司

    aigc是什么概念?aigc的应用场景

    的一个新的概念和工具,旨在加速机器学习和深度学习的发展,提高人工智能在各个领域的应用效率和质量。AIGC可以帮助开发人员在从数据到模型的整个过程中,更快、更准确地进行模型选择、测试和优化,将人工智能计算效率提高到前所未有的高度,并在机器学习和深度学习等领域创造更加精确、高
    的头像 发表于 08-21 17:16 3642次阅读

    aigc是什么?aigc和chatGPT的区别

    的研究机构、大学、企业和领军企业组成,致力于在不同领域应用人工智能技术,促进世界各地的创新和发展。 AIGC的目标是成为全球领先的人工智能实验室和技术中心,建立一个智能服务的创新生态体系,致力于在医疗、教育、城市规划、交通、能源
    的头像 发表于 08-21 17:16 2995次阅读

    中软国际AIGC业务亮相2023中国算力大会

    ​ 2023中国算力大会于8月18日在宁夏银川成功召开,中软国际携AIGC业务创新成果受邀参会,由AIGC研究院高级专家赵飞在“创新中国行走进银川·路演专场”活动中,向参会嘉宾介绍中软
    的头像 发表于 08-19 19:15 397次阅读

    华秋硬创联合安创加速器,加速创新赋能技术驱动型创业者

    167亿,获2轮及以上融资的企业占比达54%。 02****生态伙伴介绍:安创加速器 **安创加速器作为Arm全球唯一加速器,依托于Arm全球庞大的生态系统资源及行业领先的技术,**通
    发表于 08-18 14:37

    AI驱动创新|中软国际解放号携手网易数帆共建智慧应用新引擎

    ,在CodeWave生态分论坛上发表了《AI驱动创新,携手共建智慧应用新引擎》的主题演讲。 基于大模型的AIGC将在To B领域带来3个重要变化 韩鹏讲到,继5月杭州峰会之后,金秋8月
    的头像 发表于 08-13 18:25 464次阅读

    aigc是什么意思啊 aigc和chatGPT的区别

    全球人工智能产业发展的非盈利性组织。它致力于推动人工智能技术和创新应用,加强全球AI技术合作,促进AI产业的可持续发展。AIGC在全球范围内开展各种与人工智能技术相关的活动,例如学术交流、技术培训
    的头像 发表于 08-03 16:48 6269次阅读

    爱分析报告:生成式AI掀起产业智能化新浪潮

    AIGC+数字内容:数字经济快速发展,带来国内数字内容消费需求的持续快速增长,但国内数字内容产业面临需求变化快、供给侧内容整体过剩而优质供给不足的问题。以长音频数字内容生产为例,
    的头像 发表于 07-18 14:26 423次阅读
    爱分析报告:生成式AI掀起产业智能化新浪潮

    AIGC或成为音视频的核心技术之一

    您认为大语言模型的出现和AIGC技术的发展为音视频带来了哪些最直观的变化
    发表于 07-06 12:47 1289次阅读
    <b class='flag-5'>AIGC</b>或成为音视频的核心技术之一

    【邀请函】“数智未来”AIGC数据应用创新论坛

    “数智未来”AIGC数据应用创新论坛 当今世界正经历百年未有之大变局,AIGC掀起的数智化浪潮正奔涌而来。数智化时代,要做到发展有数、转型有底,以变革者的姿态拥抱未来、决胜未来。积极拥抱这一
    的头像 发表于 07-04 20:55 331次阅读
    【邀请函】“数智未来”<b class='flag-5'>AIGC</b>数据应用<b class='flag-5'>创新</b>论坛