0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

燧原科技集群式AI算力服务将助国产大模型“百舸争流”

燧原科技Enflame 来源:上海经信委 2024-03-28 11:03 次阅读

根据《上海打造未来产业创新高地发展壮大未来产业集群行动方案》(沪府发〔2022〕11号)部署,市经济信息化委联合市委组织部、市发展改革委、市教委、市科委、市市场监管局、市国资委等单位共同指导举办了2023全球“未来产业之星”大赛(简称“大赛”),立足国际视野、面向全球聚焦前沿科技与应用创新,以“项目+人才”双轮驱动的模式,推进未来产业领域的技术创新和成果产业化,为上海打造未来产业创新高地提供项目和人才支撑。

首届大赛吸引海内外536个高能级项目和高层次人才报名,全面覆盖5大未来产业领域、16个技术方向。经过初、复、决赛多轮竞逐,涌现出一批未来产业优秀项目及人才。2024年上海市产业技术创新大会上,举行了大赛颁奖仪式,10个项目和10位人才获超能奖。

即日起,上海经信委推出“未来产业之星”专栏,宣传介绍大赛优秀项目,展示未来产业前沿技术及企业风采。

未来智能

涵盖了人工智能、大数据、云计算等前沿技术的智能计算技术正以惊人的速度改变着我们的生活和工作方式,也是未来科技的“航向标”。前年底,以ChatGPT为标志性事件的包括对话机器人、文字续写等文生文领域的一系列示范性创新应用的出现,迅速引领人工智能进入了以内容生成为核心特色的AI2.0时代。在大模型“百家争鸣”、风起云涌的契机下,应如何做好准备,迎接人工智能的大规模产业化?

在上海燧原科技有限公司产品市场高级总监陈超看来,人工智能对人类生产力产生巨大影响的同时,对于基础设施的算力服务范式同样产生了根本性的变革。“未来的通用人工智能AGI必然需要通过集群式的AI算力提供持续的、规模性的、集约性的算力服务提供,”陈超说,在这一趋势下,面向超大模型的云燧智算机CloudBlazer POD,即旨在满足AIGC时代对超大规模算力的迫切需求。

据了解,燧原科技专注人工智能芯片、板卡和集群产品的研发,其基于云燧智算机的系统产品形态,可提供高算力密度、高性能的同时具备高扩展性和高性价比的集群算力形态,为包括各类型的智算中心和大模型训练与开发提供极具性价比优势的系统方案。

陈超指出,当前智算中心以及客户端针对系统集群有几大痛点,一是从智算中心需求立项,到集群架构方案确定、采购招标、交付建设直到上线运营,时间跨度非常大;二是智算中心一直诟病算力利用率较低,不能充分发挥集群的算力优势,导致企业的投入产出效率太低,收回投入遥遥无期;三是当集群规模越大,设备的稳定性严重影响到业务的持续运行,降低了集群的可用时间占比,极致严重的情况下会导致业务不可运行。

针对这些问题,燧原科技基于云燧智算机的方案打通了生产供应全流程,从整体方案层面进行设计优化,平衡算力、存储和网络的配比与配置,从而大幅度提高了集群的算力利用率,同时云燧智算机从芯片、板卡、服务器、单POD机柜到多机柜联合设计了一系列的系统级压力测试方案,保证提供24小时稳定的算力基础设施。

在产品落地和大规模产业化的过程中,这一未来技术会遇到怎样的挑战?

陈超表示,一方面,部署场景是多元化的,数据中心的选址和布局,客户的应用场景都是不一样的。如何在软硬件层面兼容客户多元化的需求,提供面向应用的高效能支撑,是云燧智算机持续迭代优化的源动力。

另一方面,客户对于降本增效的需求是持续存在的。如何纳入新的技术与产品形态,如何打造匹配不同诉求的集群方案,是云燧智算机持续优化方案、优化供应链、优化生产各环节的聚焦点。

此外,在算力密度持续增高,算力规模持续放大的形势下,数据中心对于能效提出了更高的要求,系统级散热方案也在持续优化,从传统的风冷向液冷的多技术方案持续演进。

在陈超看来,大赛面向全球聚焦前沿科技与应用创新,这种国际化的平台不仅为参赛选手提供了广阔的机会来展示自己的才华和创新力,也为其提供了与来自世界各地的优秀人才互动的机会,促进了国际间的技术和经验交流。

此外,“国际交流与合作能加速创新成果的转化和应用,为全球经济和社会发展带来更多的机遇和变革,”陈超说,燧原科技参与大赛的初衷,正是希望其专为大模型量身定做的AI集群产品得到国内外产、学、研、用各界专家的关注,进一步加强与全球范围内产业专家与合作伙伴的深入沟通交流。

在陈超看来,国际科技竞争日益加剧,集成电路与人工智能的形势尤为严峻。AI芯片是集成电路与人工智能的交汇之处,具有重要战略意义与现实意义,加快建设国产AI芯片生态十分必要且万分紧迫。“多年来,上海及长三角地区一直是中国集成电路和人工智能产业的创新高地,产业链条完整、龙头企业众多、顶尖人才汇聚,拥有全生态技术产品开发及商业化应用的能力,已经具备建设国产AI芯片产业生态的各项准备条件。”

针对国产AI算力芯片产业的未来发展,陈超建议,一是要重视有效算力,推动算尽其用,让国产算力落地见效、开花结果,推动AI技术赋能更多行业;第二,立足国内市场,放眼世界舞台,一方面要逐步实现自主、可控、安全的目标,另一方面要以更加长远的战略眼光,谋划中长期全球科技发展格局,面向全球打造AI芯片生态的更多可能性;三是“AI芯片企业需要加速向规模化方向发展,更快更好地实现自我造血,追求长远的、可持续的、可预测的发展。”



审核编辑:刘清

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 云计算
    +关注

    关注

    38

    文章

    7347

    浏览量

    135715
  • 人工智能
    +关注

    关注

    1776

    文章

    43845

    浏览量

    230601
  • 大数据
    +关注

    关注

    64

    文章

    8649

    浏览量

    136589
  • AI芯片
    +关注

    关注

    17

    文章

    1652

    浏览量

    34380
  • 燧原科技
    +关注

    关注

    0

    文章

    98

    浏览量

    8143

原文标题:【未来产业之星】燧原科技:持续、规模、集约的集群式AI算力服务将助国产大模型“百舸争流”

文章出处:【微信号:gh_1222367b8780,微信公众号:燧原科技Enflame】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    模型时代,国产AI芯片最新进展!算力集群化是必然趋势

    电子发烧友网报道(文/李弯弯)在刚过去的2023世界人工智能大会上,大模型可以说是其中的大亮点之一,华为盘古、商汤日日新、网易伏羲等30多款国产AI模型集中亮相。与此同时,各类人工智
    的头像 发表于 07-11 09:05 1404次阅读
    大<b class='flag-5'>模型</b>时代,<b class='flag-5'>国产</b><b class='flag-5'>AI</b>芯片最新进展!算力<b class='flag-5'>集群</b>化是必然趋势

    防止AI模型被黑客病毒入侵控制(原创)聆思大模型AI开发套件评测4

    神经网络的电路实现 // 比如说我们已经有一台神奇的AI黑科技在默默工作... endmodule // 我们召唤出这个神秘的AI模型
    发表于 03-19 11:18

    能RADXA微服务器试用体验】Radxa Fogwise 1684X Mini 规格

    通过网络可以了解到,能RADXA微服务器的具体规格: 处理器:BM1684X :高达32Tops INT8峰值
    发表于 02-28 11:21

    国产FPGA+OMAPL138开发板体验】(原创)6.FPGA连接ChatGPT 4

    访问ChatGPT 4这样的AI模型是非常复杂的,因为这涉及到大量的数据传输、协议实现、并行处理、优化等等。更重要的是,ChatGPT 4这样的模型通常是运行在强大的服务
    发表于 02-14 21:58

    大茉莉X16-P,5800M大称王称霸

    Rykj365
    发布于 :2024年01月25日 14:54:52

    AI模型怎么解决芯片过剩?

    AI模型
    电子发烧友网官方
    发布于 :2024年01月02日 15:42:05

    AI模型可以设计电路吗?

    AI模型
    电子发烧友网官方
    发布于 :2024年01月02日 15:09:29

    英码科技精彩亮相火爆的IOTE 2023,多面赋能AIoT产业发展!

    产品,包括覆盖多层次的智能工作站(边缘计算盒子)、AI加速卡等;同时向大家展示自研的AI技术服务——“深元”0代码移植工具链和创新性的行
    发表于 09-25 10:03

    集群服务器和站群服务器一样吗?

    集群服务器和站群服务器是用于提高系统可用性、性能和扩展性的不同架构方法。那么集群服务器和站群服务
    的头像 发表于 09-05 17:35 335次阅读

    阿里平头哥发布首个 RISC-V AI 软硬全栈平台

    面向多媒体 AI 增强场景的 RISC-V 全栈软硬件平台。 该平台 RISC-V 扩展性的新型 Vector、Matrix 及第三方硬件进行抽象,并接入 OpenCV 与 CS
    发表于 08-26 14:14

    AI简报20230714期】人工智能在日常生活中的应用,国产AI芯片最新进展公布!

    1. 大模型时代,国产AI芯片最新进展!算力集群化是必然趋势 原文: https://mp.weixin.qq.com/s/k-InpBMMJTUltuMcB2hKSg 在刚过去的20
    的头像 发表于 07-14 20:40 795次阅读
    【<b class='flag-5'>AI</b>简报20230714期】人工智能在日常生活中的应用,<b class='flag-5'>国产</b><b class='flag-5'>AI</b>芯片最新进展公布!

    AI重塑千行百业 华为云发布盘古大模型3.0和昇腾AI服务

    、伙伴及开发者提供更好的服务。昇腾AI服务集群提供2000P Flops算力,千卡训练30天长稳率达到90%,为业界提供稳定可靠的AI
    的头像 发表于 07-07 17:39 1586次阅读
    <b class='flag-5'>AI</b>重塑千行百业 华为云发布盘古大<b class='flag-5'>模型</b>3.0和昇腾<b class='flag-5'>AI</b>云<b class='flag-5'>服务</b>

    Prompt Sapper:基础模型的灵魂伴侣,AI服务的创新工场

    AI 服务代表了一种我们称为构建在基础模型之上的 AI 链(AI Chain)应用。AI 链应用
    的头像 发表于 05-22 14:45 444次阅读
    Prompt Sapper:基础<b class='flag-5'>模型</b>的灵魂伴侣,<b class='flag-5'>AI</b><b class='flag-5'>服务</b>的创新工场