0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

沐曦彭莉谈后GPT时代的算力需求

沐曦MetaX 来源:沐曦MetaX 2023-08-22 10:26 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

近日,2023中国算力大会在宁夏银川举行,沐曦集成电路(上海)有限公司(下称“沐曦”)联合创始人、CTO兼首席硬件架构师彭莉受邀出席由中国信息通信研究院、中国互联网协会联合举办的智能计算论坛,并担任演讲嘉宾,探讨后GPT时代算力需求激增带来的挑战以及GPU如何突破算力供需瓶颈、推动人工智能产业普惠化发展。

在题为“后GPT时代的算力需求”的演讲中,彭莉预测大模型商业模式将分为通用计算市场和专用定制化市场两大类:在通用计算市场,大语言模型将终结多数NLP任务,NLP技术水平被强行拉平,通用大模型或被大厂“垄断”;而在专用定制化市场,开源大模型将呈现百花齐放的发展态势,可针对私有数据、敏感数据进行快速定制和领域对齐,大模型开发和部署能力将趋于普及化。

彭莉指出,区别于传统AI,生成式AI技术可以借助接入类ChatGPT应用发挥显著的技术优势,为大语言模型的开发降本增效,同时也对算力提出更高和更迫切的要求。由于大模型训练的一次性成本被大规模推理摊薄,大模型盈利的一大难点是降低推理成本。沐曦致力于打造高效通用的GPU芯片及软硬件一体的生态解决方案,通过GPU软件生态优势、硬件架构优势、先进封装等方面全面提升GPU算力,降低大模型训练和推理的算力成本,在产品路线和生态战略上均可满足大模型对算力基础设施的大规模需求,为推进智能产业可持续发展打造坚实的算力底座。

关于沐曦

沐曦致力于为异构计算提供安全可靠的GPU芯片及解决方案,打造全栈GPU芯片产品,推出曦思N系列GPU用于AI推理,曦云C系列GPU用于千亿参数AI大模型训练及通用计算,以及曦彩G系列GPU用于图形渲染,满足数据中心对“高能效”及“高通用性”的算力需求。沐曦产品均采用完全自主研发的GPU IP,拥有完全自主的指令集和架构,配以兼容主流GPU生态的完整软件栈(MXMACA),具备高能效和高通用性的天然优势,能够为客户构建软硬件一体的全面生态解决方案,是“双碳”背景下推动数据中心建设和产业数字化、智能化转

审核编辑:汤梓红
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 集成电路
    +关注

    关注

    5464

    文章

    12681

    浏览量

    375680
  • gpu
    gpu
    +关注

    关注

    28

    文章

    5271

    浏览量

    136060
  • 智能计算
    +关注

    关注

    0

    文章

    200

    浏览量

    17094
  • 沐曦
    +关注

    关注

    1

    文章

    100

    浏览量

    1876

原文标题:沐曦彭莉:后GPT时代GPU如何降低算力门槛

文章出处:【微信号:沐曦MetaX,微信公众号:沐曦MetaX】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    股份与上海联通正式签署战略合作协议

    4月17日,股份与中国联合网络通信有限公司上海市分公司(简称“上海联通”)正式签署战略合作协议,此次签约标志着双方在基础设施建设、人工智能产业赋能等领域的合作迈入深度融合的新阶
    的头像 发表于 04-23 14:33 347次阅读
    <b class='flag-5'>沐</b><b class='flag-5'>曦</b>股份与上海联通正式签署战略合作协议

    股份云C系列GPU产品Day 0适配百度文心ERNIE-Image文生图模型

    4月15日,百度文心大模型团队重磅推出ERNIE‑Image文生图模型,股份云 C 系列 GPU 已完成对 ERNIE‑Image 的Day 0 深度适配,同步支持 ERNIE‑Image Turbo 极速推理版本,以轻量
    的头像 发表于 04-15 17:39 446次阅读

    股份云C系列GPU产品Day 0适配MiniMax M2.7模型

    4月12日,MiniMax新一代Agent旗舰大模型M2.7开源。股份云C系列GPU已完成对 M2.7的Day 0深度适配,将为M2.7提供澎湃
    的头像 发表于 04-13 17:08 520次阅读
    <b class='flag-5'>沐</b><b class='flag-5'>曦</b>股份<b class='flag-5'>曦</b>云C系列GPU产品Day 0适配MiniMax M2.7模型

    股份与蓬莱智数达成生态合作签约

    4月7日,股份与国产人工智能数据库明星创业公司蓬莱智数达成生态合作签约,共建“国产+国产存”融合生态。
    的头像 发表于 04-11 10:57 312次阅读
    <b class='flag-5'>沐</b><b class='flag-5'>曦</b>股份与蓬莱智数达成生态合作签约

    股份深度参与2026全球开发者先锋大会主题论坛

    3 月 28 日,2026 全球开发者先锋大会 “语料筑基、智生时代” 主题论坛在上海盛大启幕。股份作为本次MinerU 实战营战略伙伴,携全栈自研国产 GPU
    的头像 发表于 04-08 15:42 277次阅读

    股份携手模方舟正式发布AI技能认证体系

    随着国产硬件迈入迭代加速的快车道,构建蓬勃的开发者生态已成为推动产业高质量发展升级的关键引擎。为了连接产业实战需求与人才培养,为开发者提供真机实操的沃土,
    的头像 发表于 03-17 11:31 553次阅读

    云C600 GPU产品适配阶跃星辰基座模型Step 3.5 Flash

    今天,阶跃星辰技术团队发布并开源最新旗舰基座模型 Step 3.5 Flash。股份已实现云C600与该模型深度协同适配,为国内首先完成与该模型Day 0适配的国产
    的头像 发表于 02-02 14:44 536次阅读
    <b class='flag-5'>沐</b><b class='flag-5'>曦</b><b class='flag-5'>曦</b>云C600 GPU产品适配阶跃星辰基座模型Step 3.5 Flash

    股份MXMACA软件栈3.3.0.X版本技术解析

    ,作为“自主GPGPU硬件+全栈软件体系”的关键协同载体,如图1所示,MACA承担着连接硬件单元与上层应用生态的核心纽带作用,覆盖底层驱动、用户态接口、编译器、算子适配、训练框
    的头像 发表于 12-24 09:08 1163次阅读
    <b class='flag-5'>沐</b><b class='flag-5'>曦</b>股份MXMACA软件栈3.3.0.X版本技术解析

    强强联合:之江实验室与股份共建智集群联合实验室

    总工程师赵志峰、副主任何水兵,以及股份联合创始人、CTO兼首席硬件架构师等双方代表出席签约仪式。 本次合作旨在响应国家“人工智能+”行动号召,落实浙江省打造人工智能高地的战略部
    的头像 发表于 10-23 10:50 1546次阅读

    首款全国产通用GPU芯片发布 集成推出云C600

    ,并支持MetaXLink超节点扩展技术,在硬件性能和软件兼容上完全满足下一代生成式AI的训练和推理需求。 而且,股份与中国科学院合作的国产千卡集群,已完成多个大模型全参数训练,证实国产
    的头像 发表于 10-19 20:04 4.7w次阅读

    全链路方案亮相WAIC 2025

    以“智能时代 同球共济”为主题的2025世界人工智能大会(WAIC)于7月26日在上海开幕,全球人工智能领域的技术创新与产业实践成为焦点。集成电路(上海)股份有限公司(以下简称“
    的头像 发表于 08-01 11:58 8477次阅读

    液冷新标杆!科华数据联合股份在世界人工智能大会首发高密度液冷POD

    ,科华数据与股份联合推出的高密度液冷POD首次亮相,吸引了大量参会者驻足交流。该产品是科华数据专为
    的头像 发表于 07-29 15:57 1203次阅读
    液冷<b class='flag-5'>算</b><b class='flag-5'>力</b>新标杆!科华数据联合<b class='flag-5'>沐</b><b class='flag-5'>曦</b>股份在世界人工智能大会首发高密度液冷<b class='flag-5'>算</b><b class='flag-5'>力</b>POD

    亮相2025世界人工智能大会

    近日,2025世界人工智能大会(WAIC)核心分论坛在上海世博中心盛大启幕。集成电路(上海)股份有限公司(以下简称“”)以“芯聚
    的头像 发表于 07-28 18:08 4805次阅读

    硅基流动携手首发基于云的Kimi K2推理服务

    天网络”)运营的云C550 三千卡通用 GPU 国产集群。此次合作标志着硅基流动正式将该国产集群纳入网络,进一步为大模型产业落地提
    的头像 发表于 07-23 17:33 2145次阅读

    PaddleScience完成与AI芯片适配

    当前,PaddleScience已与展开深度合作,涵盖智能仿真、高性能计算、科学建模等多个方向。这一趋势正加速形成面向"Al for Science"的国产智生态新格局。
    的头像 发表于 05-06 14:49 1747次阅读