0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

AI算力研究框架(2023)

智能计算芯世界 来源:智能计算芯世界 2023-06-15 14:54 次阅读

GPT-4 是世界首个最接近AGI的先进AI系统,展现出强大的“涌现能力”。GPT的成功,得益于其参数规模扩大, RLHF、Transformer、Prompt、插件、系统工程等方面的伟大创新。我们预计, ChatGPT将对科技产业产生深远的影响,类似于操作系统,ChatGPT将接入现有的全部软硬件系统。GPT-4的诞生将加速AGI时代的到来,开启科技“十年新周期”。

AI算力:科技企业大模型竞赛的核心“装备”,AIGC应用的关键基建 Transfomer架构大模型训练对算力的消耗呈指数级增长。2023年1月,ChatGPT计划再向微软融资100亿美金,该融资将是新一代大模型算力基建的主要资金来源。ChatGPT激发“鲶鱼效应”,全球科技巨头将AI战略提升到空前高度,算力作为新一轮科技竞赛的核心“装备”,迎来需求的脉冲式增长。未来,ChatGPT应用的全面落地还将释放更为广阔的算力需求。 计算是AI算力的核心引擎,存储、网络、软件是AI算力的主要发展方向 1)计算:GPU是ChatGPT训练和推理的核心支柱,其更新速度远超过“摩尔定律” ,受益于AI和高性能市场需求增长,GPU行业景气度显著提升。AI服务器作为GPU的重要载体,预计其市场规模、渗透率将随着GPU放量迎来同步高增。 2)网络:已成为限制AI算力提升的主要瓶颈,英伟达推出InfiniBand架构下的NVLink、NVSwtich等方案,将GPU之间的通信能力上升到新高度。而800G、1.6T高端光模块作为AI训练的上游核心器件,将受益于大模型训练需求的增长。

3)存储:“内存墙”是制约算力提升的重要因素。NAND、DRAM等核心存储器在制程方面临近极限,不断探索“3D”等多维解决方案。HBM基于其高宽带特性,成为了高性能GPU的核心组件,市场前景广阔。

b01275b0-0b0d-11ee-962d-dac502259ad0.png

b0315408-0b0d-11ee-962d-dac502259ad0.png

b05461be-0b0d-11ee-962d-dac502259ad0.png

b0772b86-0b0d-11ee-962d-dac502259ad0.png

b0a20374-0b0d-11ee-962d-dac502259ad0.png

b0c40726-0b0d-11ee-962d-dac502259ad0.png

b0e09684-0b0d-11ee-962d-dac502259ad0.png

b0ff8a30-0b0d-11ee-962d-dac502259ad0.png

b11c2e92-0b0d-11ee-962d-dac502259ad0.png

b13c076c-0b0d-11ee-962d-dac502259ad0.png

b16061b6-0b0d-11ee-962d-dac502259ad0.png

b1845472-0b0d-11ee-962d-dac502259ad0.png

b1ad0b56-0b0d-11ee-962d-dac502259ad0.png

b1d772e2-0b0d-11ee-962d-dac502259ad0.png

b2034b6a-0b0d-11ee-962d-dac502259ad0.png

b23c304c-0b0d-11ee-962d-dac502259ad0.png

b25e352a-0b0d-11ee-962d-dac502259ad0.png

b2862c38-0b0d-11ee-962d-dac502259ad0.png

b2addc56-0b0d-11ee-962d-dac502259ad0.png

b2d9a598-0b0d-11ee-962d-dac502259ad0.png

b2eb8ae2-0b0d-11ee-962d-dac502259ad0.png

b31bd1ca-0b0d-11ee-962d-dac502259ad0.png

b3474dd2-0b0d-11ee-962d-dac502259ad0.png

b364d208-0b0d-11ee-962d-dac502259ad0.png

b37d819a-0b0d-11ee-962d-dac502259ad0.png

b3ab3c52-0b0d-11ee-962d-dac502259ad0.png

b3d6d74a-0b0d-11ee-962d-dac502259ad0.png

b3f6e85a-0b0d-11ee-962d-dac502259ad0.png

b4237fb4-0b0d-11ee-962d-dac502259ad0.png

b4350446-0b0d-11ee-962d-dac502259ad0.png

b45e9194-0b0d-11ee-962d-dac502259ad0.png

b48fa7ca-0b0d-11ee-962d-dac502259ad0.png

b4ab67d0-0b0d-11ee-962d-dac502259ad0.png

b4d18b5e-0b0d-11ee-962d-dac502259ad0.png

b5023cea-0b0d-11ee-962d-dac502259ad0.png

b52ee29a-0b0d-11ee-962d-dac502259ad0.png

b54e885c-0b0d-11ee-962d-dac502259ad0.png

b579131a-0b0d-11ee-962d-dac502259ad0.png

b5984596-0b0d-11ee-962d-dac502259ad0.png

b5aacae0-0b0d-11ee-962d-dac502259ad0.png

b5d0146c-0b0d-11ee-962d-dac502259ad0.png

b5ebf1fa-0b0d-11ee-962d-dac502259ad0.png

b612abba-0b0d-11ee-962d-dac502259ad0.png

b639775e-0b0d-11ee-962d-dac502259ad0.png

b67dcab2-0b0d-11ee-962d-dac502259ad0.png

b698cda8-0b0d-11ee-962d-dac502259ad0.png

b6d8400a-0b0d-11ee-962d-dac502259ad0.png

b6f25206-0b0d-11ee-962d-dac502259ad0.png

b7159004-0b0d-11ee-962d-dac502259ad0.png

b7440646-0b0d-11ee-962d-dac502259ad0.png

b7524968-0b0d-11ee-962d-dac502259ad0.png

b77b80f8-0b0d-11ee-962d-dac502259ad0.png

b7ab3c26-0b0d-11ee-962d-dac502259ad0.png

b7b75132-0b0d-11ee-962d-dac502259ad0.png

b7d18e44-0b0d-11ee-962d-dac502259ad0.png

b7f8ff56-0b0d-11ee-962d-dac502259ad0.png

b81bc702-0b0d-11ee-962d-dac502259ad0.png

b855e324-0b0d-11ee-962d-dac502259ad0.png

b881b9ae-0b0d-11ee-962d-dac502259ad0.png

b8ab9576-0b0d-11ee-962d-dac502259ad0.png

b8c61f04-0b0d-11ee-962d-dac502259ad0.png

b8df4448-0b0d-11ee-962d-dac502259ad0.png

b9024056-0b0d-11ee-962d-dac502259ad0.png

b92bc3ea-0b0d-11ee-962d-dac502259ad0.png

b943f65e-0b0d-11ee-962d-dac502259ad0.png

b965ea20-0b0d-11ee-962d-dac502259ad0.png

b98c4e9a-0b0d-11ee-962d-dac502259ad0.png

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    26459

    浏览量

    264080
  • 算力
    +关注

    关注

    1

    文章

    659

    浏览量

    14360
  • 大模型
    +关注

    关注

    2

    文章

    1532

    浏览量

    1130

原文标题:AI算力研究框架(2023)

文章出处:【微信号:AI_Architect,微信公众号:智能计算芯世界】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    基于队列的灵活状态机——WTYKAMC@2023框架

    本帖最后由 yk74110 于 2024-4-18 16:48 编辑 WTYKAMC@2023框架 【简介】 这是一个基于队列的灵活状态机,可以满足队列元素先进先出,先进后出,后进后出
    发表于 11-03 16:11

    大茉莉X16-P,5800M大称王称霸

    Rykj365
    发布于 :2024年01月25日 14:54:52

    【AD新闻】AI时代,一美元能够买到多强的

    当真正需要在嵌入式终端设备中使用AI技术时,客户的诉求更多的集中在功耗、响应时间、成本等方面,对性能的无尽追求反而不是重点,这和很多人之前的预想并不一致。花一美元或一瓦电能买到多强的? 算法
    发表于 03-23 15:27

    Firefly支持AI引擎Tengine,性能提升,轻松搭建AI计算框架

    `Tengine 是OPEN AI LAB 为嵌入式设备开发的一个轻量级、高性能并且模块化的引擎。基于ARM平台高效的计算库实现,针对特定硬件平台的性能优化,吸取已有AI计算框架的优点,设计全新
    发表于 08-13 15:58

    【免费直播】让AI芯片拥有最强大脑—AI芯片的操作系统设计介绍.

    智慧化进程。人工智能芯片是人工智能发展的基石,是数据、算法和在各类场景应用落地的基础依托。“无芯片不AI”已经深入人心,成为业界共识。本次直播将述说AI芯片设计带你解析
    发表于 11-07 14:18

    rx580,rx580显卡,rx588,rx588显卡 精选资料分享

    已下是rx580显卡9-11 Mh 没有开启计算模式,挖几分种重启自动开启,计算模式只支持WIN1022-28 Mh 原版BIOS,开启时序,并设置超频29-32 Mh 正常
    发表于 07-23 06:59

    数据、算法和其实现载体是什么

    背景介绍数据、算法和是人工智能技术的三大要素。其中,体现着人工智能(AI)技术具体实现的能力,实现载体主要有CPU、GPU、FPGA
    发表于 07-26 06:47

    开箱啦!带你玩转飞凌高“魔盒”——AI边缘计算终端FCU3001

    随着人工智能高速发展,逐渐向人们的生活场景渗透,其对数据计算量要求越来越庞大,处理速度要求越来越快,硬件性能要求也越来越高。针对此需求,飞凌嵌入式推出了面向AI边缘系统的最新产品:高“魔盒
    发表于 12-10 10:18

    开箱啦!带你玩转飞凌高“魔盒”——AI边缘计算终端FCU3001

    随着人工智能高速发展,逐渐向人们的生活场景的渗透,对数据计算量要求也是越来越庞大,处理速度要求越来越快,这对硬件性能要求也就越来越高,针对这个需求,飞凌嵌入式推出了面向AI边缘系统的最新产品高“魔盒”—
    发表于 12-14 09:22

    MXM 平台在边缘计算领域的应用

    , 继承了该接口的诸多优点,也更适合此类场景应用,为用户提供了一种边缘侧部署的解决方案,同时MXM接口还可以为用户提供其它架构模块搭配方案,如MXM界面的寒武纪
    发表于 05-18 15:52

    解读最佳实践:倚天 710 ARM 芯片的 Python+AI 优化

    编者按: 在刚刚结束的 PyCon China 2022 大会上,龙蜥社区开发者朱宏林分享了主题为《ARM 芯片的 Python+AI 优化》的技术演讲。本次演讲,作者将向大家介绍他们在倚天
    发表于 12-23 16:02

    迅为RK3568/RK3588开发板人工智能AI摄像头识别功能方案

    迅为RK3568以及RK3588开发板内置独立NPU,RK3588运算能力高达6TOPS,RK3568运算能力高达16TOPS支撑,高性能,高,高性价比的
    发表于 03-27 14:56

    阿里平头哥发布首个 RISC-V AI 软硬全栈平台

    面向多媒体 AI 增强场景的 RISC-V 全栈软硬件平台。 该平台将 RISC-V 扩展性的新型 Vector、Matrix 及第三方硬件进行抽象,并接入 OpenCV 与 CSI-NN 等弹性
    发表于 08-26 14:14

    英码科技精彩亮相火爆的IOTE 2023,多面赋能AIoT产业发展!

    产品,包括覆盖多层次的智能工作站(边缘计算盒子)、AI加速卡等;同时向大家展示自研的AI技术服务——“深元”0代码移植工具链和创新性的行业解决方案,赋能更多AIoT产业生态企业快速
    发表于 09-25 10:03

    ChatGPT:AI模型框架研究

      一、AI框架重要性日益突显,框架技术发展进入繁荣期,国内AI框架技术加速发展:  1、AI
    发表于 03-29 17:06 0次下载