0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

燧原科技集群式AI算力服务将助国产大模型“百舸争流”

燧原科技Enflame 来源:上海经信委 2024-03-28 11:03 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

根据《上海打造未来产业创新高地发展壮大未来产业集群行动方案》(沪府发〔2022〕11号)部署,市经济信息化委联合市委组织部、市发展改革委、市教委、市科委、市市场监管局、市国资委等单位共同指导举办了2023全球“未来产业之星”大赛(简称“大赛”),立足国际视野、面向全球聚焦前沿科技与应用创新,以“项目+人才”双轮驱动的模式,推进未来产业领域的技术创新和成果产业化,为上海打造未来产业创新高地提供项目和人才支撑。

首届大赛吸引海内外536个高能级项目和高层次人才报名,全面覆盖5大未来产业领域、16个技术方向。经过初、复、决赛多轮竞逐,涌现出一批未来产业优秀项目及人才。2024年上海市产业技术创新大会上,举行了大赛颁奖仪式,10个项目和10位人才获超能奖。

即日起,上海经信委推出“未来产业之星”专栏,宣传介绍大赛优秀项目,展示未来产业前沿技术及企业风采。

未来智能

涵盖了人工智能、大数据、云计算等前沿技术的智能计算技术正以惊人的速度改变着我们的生活和工作方式,也是未来科技的“航向标”。前年底,以ChatGPT为标志性事件的包括对话机器人、文字续写等文生文领域的一系列示范性创新应用的出现,迅速引领人工智能进入了以内容生成为核心特色的AI2.0时代。在大模型“百家争鸣”、风起云涌的契机下,应如何做好准备,迎接人工智能的大规模产业化?

在上海燧原科技有限公司产品市场高级总监陈超看来,人工智能对人类生产力产生巨大影响的同时,对于基础设施的算力服务范式同样产生了根本性的变革。“未来的通用人工智能AGI必然需要通过集群式的AI算力提供持续的、规模性的、集约性的算力服务提供,”陈超说,在这一趋势下,面向超大模型的云燧智算机CloudBlazer POD,即旨在满足AIGC时代对超大规模算力的迫切需求。

据了解,燧原科技专注人工智能芯片、板卡和集群产品的研发,其基于云燧智算机的系统产品形态,可提供高算力密度、高性能的同时具备高扩展性和高性价比的集群算力形态,为包括各类型的智算中心和大模型训练与开发提供极具性价比优势的系统方案。

陈超指出,当前智算中心以及客户端针对系统集群有几大痛点,一是从智算中心需求立项,到集群架构方案确定、采购招标、交付建设直到上线运营,时间跨度非常大;二是智算中心一直诟病算力利用率较低,不能充分发挥集群的算力优势,导致企业的投入产出效率太低,收回投入遥遥无期;三是当集群规模越大,设备的稳定性严重影响到业务的持续运行,降低了集群的可用时间占比,极致严重的情况下会导致业务不可运行。

针对这些问题,燧原科技基于云燧智算机的方案打通了生产供应全流程,从整体方案层面进行设计优化,平衡算力、存储和网络的配比与配置,从而大幅度提高了集群的算力利用率,同时云燧智算机从芯片、板卡、服务器、单POD机柜到多机柜联合设计了一系列的系统级压力测试方案,保证提供24小时稳定的算力基础设施。

在产品落地和大规模产业化的过程中,这一未来技术会遇到怎样的挑战?

陈超表示,一方面,部署场景是多元化的,数据中心的选址和布局,客户的应用场景都是不一样的。如何在软硬件层面兼容客户多元化的需求,提供面向应用的高效能支撑,是云燧智算机持续迭代优化的源动力。

另一方面,客户对于降本增效的需求是持续存在的。如何纳入新的技术与产品形态,如何打造匹配不同诉求的集群方案,是云燧智算机持续优化方案、优化供应链、优化生产各环节的聚焦点。

此外,在算力密度持续增高,算力规模持续放大的形势下,数据中心对于能效提出了更高的要求,系统级散热方案也在持续优化,从传统的风冷向液冷的多技术方案持续演进。

在陈超看来,大赛面向全球聚焦前沿科技与应用创新,这种国际化的平台不仅为参赛选手提供了广阔的机会来展示自己的才华和创新力,也为其提供了与来自世界各地的优秀人才互动的机会,促进了国际间的技术和经验交流。

此外,“国际交流与合作能加速创新成果的转化和应用,为全球经济和社会发展带来更多的机遇和变革,”陈超说,燧原科技参与大赛的初衷,正是希望其专为大模型量身定做的AI集群产品得到国内外产、学、研、用各界专家的关注,进一步加强与全球范围内产业专家与合作伙伴的深入沟通交流。

在陈超看来,国际科技竞争日益加剧,集成电路与人工智能的形势尤为严峻。AI芯片是集成电路与人工智能的交汇之处,具有重要战略意义与现实意义,加快建设国产AI芯片生态十分必要且万分紧迫。“多年来,上海及长三角地区一直是中国集成电路和人工智能产业的创新高地,产业链条完整、龙头企业众多、顶尖人才汇聚,拥有全生态技术产品开发及商业化应用的能力,已经具备建设国产AI芯片产业生态的各项准备条件。”

针对国产AI算力芯片产业的未来发展,陈超建议,一是要重视有效算力,推动算尽其用,让国产算力落地见效、开花结果,推动AI技术赋能更多行业;第二,立足国内市场,放眼世界舞台,一方面要逐步实现自主、可控、安全的目标,另一方面要以更加长远的战略眼光,谋划中长期全球科技发展格局,面向全球打造AI芯片生态的更多可能性;三是“AI芯片企业需要加速向规模化方向发展,更快更好地实现自我造血,追求长远的、可持续的、可预测的发展。”



审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 云计算
    +关注

    关注

    39

    文章

    8042

    浏览量

    144758
  • 人工智能
    +关注

    关注

    1820

    文章

    50317

    浏览量

    266896
  • 大数据
    +关注

    关注

    64

    文章

    9096

    浏览量

    144055
  • AI芯片
    +关注

    关注

    17

    文章

    2164

    浏览量

    36865
  • 燧原科技
    +关注

    关注

    0

    文章

    155

    浏览量

    10605

原文标题:【未来产业之星】燧原科技:持续、规模、集约的集群式AI算力服务将助国产大模型“百舸争流”

文章出处:【微信号:gh_1222367b8780,微信公众号:燧原科技Enflame】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    华为领衔,三剑客入局!十万卡智集群落地,国产芯片强势崛起

    中国移动宣布,持续加大对人工智能领域的投入力度,总体投入翻一番,建成国内规模最大、技术领先的智基础设施,探索十万卡智集群建设,全国产
    的头像 发表于 10-14 09:30 1.5w次阅读
    华为领衔,三剑客入局!十万卡智<b class='flag-5'>算</b><b class='flag-5'>集群</b>落地,<b class='flag-5'>国产</b><b class='flag-5'>算</b><b class='flag-5'>力</b>芯片强势崛起

    国产出海元年开启

      国产开启“大航海”时代。 黄仁勋前段时间访华时曾表示:“华为AI芯片取代英伟达只是时间问题。”彼时,这话多被解读为对老对手的客套。但在刚刚结束的2025世界人工智能大会上,华为
    的头像 发表于 03-24 15:15 502次阅读
    <b class='flag-5'>国产</b><b class='flag-5'>算</b><b class='flag-5'>力</b>出海元年开启

    边缘AI临界点:深度解析176TOPS香橙派AI Station的产业价值

    、内存革命:48GB/96GB LPDDR4X 背后的带宽博弈 很多开发者容易陷入唯论的误区,但在实际部署大模型时,内存容量和带宽往往是真正的性能瓶颈。OrangePi AI St
    发表于 03-10 14:19

    国产AI芯片真能扛住“内卷”?海思昇腾的这波操作藏了多少细节?

    最近行业都在说“AI的命门”,但国产芯片真的能接住这波需求吗? 前阵子接触到海思昇腾910B,实测下来有点超出预期——7nm工艺下
    发表于 10-27 13:12

    “超节点+集群”:华为撞出来的之路

    “超节点+集群”,成为彻底解决AI困局的契机
    的头像 发表于 09-24 10:55 1344次阅读
    “超节点+<b class='flag-5'>集群</b>”:华为撞出来的<b class='flag-5'>算</b><b class='flag-5'>力</b>之路

    原科技加速国产破局

    7月27日上午,原科技与中国电子信息产业发展研究院、人工智能产业工作委员会、上海市集成电路行业协会、上海市网络协会、上海赛西科技发展有限责任公司共同举办“芯节点·新突破——协同创新聚
    的头像 发表于 08-01 16:12 1926次阅读

    壁仞科技联合三方打造国产集群落地

    近日,由浙江联通、壁仞科技、中兴通讯、优云科技四方联合打造的国产集群,在浙江乌镇智中心正式点亮。该
    的头像 发表于 08-01 15:26 1621次阅读

    科技上线赤兔推理引擎服务,创新解锁FP8大模型

    北京2025年7月30日 /美通社/ -- 近日,北京积科技有限公司(以下简称"积科技")宣布其服务平台上线赤兔推理引擎。积
    的头像 发表于 07-30 21:44 1038次阅读

    从万卡集群到十万卡集群原科技始终践行普惠

    健康、教育等垂直领域,对设施有着更加广泛的需求,包括智中心和训推一体机等。   在 2025 世界人工智能大会暨人工智能全球治理高级别会议(WAIC 2025)上,作为国产人工智
    发表于 07-30 09:54 4674次阅读
    从万卡<b class='flag-5'>集群</b>到十万卡<b class='flag-5'>集群</b>,<b class='flag-5'>燧</b>原科技始终践行<b class='flag-5'>算</b><b class='flag-5'>力</b>普惠

    原科技亮相WAIC,以国产力使能互联网创新应用

    第六年参展,全面展示基础设施建设、AI商业化落地和研发探索的最新成果。 原科技展台   展现多元智算进阶落地实践 当前,国家正大力推进“人工智能+”行动,强化
    发表于 07-26 20:34 2903次阅读
    <b class='flag-5'>燧</b>原科技亮相WAIC,以<b class='flag-5'>国产</b><b class='flag-5'>算</b>力使能互联网创新应用

    一文看懂AI集群

    最近这几年,AI浪潮席卷全球,成为整个社会的关注焦点。大家在讨论AI的时候,经常会提到AI集群
    的头像 发表于 07-23 12:18 1924次阅读
    一文看懂<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>集群</b>

    原科技国产万卡集群通过中国信通院权威认证

    近日,中国信息通信研究院(以下简称“中国信通院”)成功召开万卡智集群服务推进方阵年中总交流会。会议期间,中国信通院重磅发布了首批《大规模智集群
    的头像 发表于 07-04 16:50 1341次阅读

    热插拔集群

    能力‌ 服务器节点热插拔‌:集群服务器支持在线更换计算节点(如2U服务器容纳12个热插拔AI节点,单节点集成5个
    的头像 发表于 06-26 09:20 1236次阅读

    为千行万业开通途,为什么是

    成海,万业乘云逐浪
    的头像 发表于 04-27 15:09 2768次阅读
    为千行万业开<b class='flag-5'>算</b><b class='flag-5'>力</b>通途,为什么是<b class='flag-5'>百</b><b class='flag-5'>舸</b>?

    AI原生架构升级:RAKsmart服务器在超大规模模型训练中的突破

    近年来,随着千亿级参数模型的崛起,AI训练对的需求呈现指数级增长。传统服务器架构在应对分布
    的头像 发表于 04-24 09:27 901次阅读