0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

华为发布并开源创新AI容器技术Flex:ai

华为 来源:华为 2025-11-25 15:34 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

11月21日,2025AI容器应用落地与发展论坛在上海举行。华为公司副总裁、数据存储产品线总裁周跃峰博士在论坛上正式发布AI容器技术——Flex:ai,同时,华为联合上海交通大学、西安交通大学与厦门大学共同宣布,将此项产学合作成果向外界开源,助力破解算力资源利用难题。

当前,AI产业高速发展催生海量算力需求,但全球算力资源利用率偏低的问题日益凸显,“算力资源浪费”成为产业发展的关键桎梏:小模型任务独占整卡导致资源闲置,大模型任务单机算力不足难以支撑,大量缺乏GPU/NPU的通用服务器更是处于算力“休眠”状态,供需错配造成严重的资源浪费。

本次发布并开源的Flex:aiXPU池化与调度软件,是基于Kubernetes容器编排平台构建,通过对GPU、NPU等智能算力资源的精细化管理与智能调度,实现AI工作负载与算力资源的精准匹配,可大幅提升算力利用率。该技术深度融合了三大高校与华为的科研力量,形成三大核心技术突破:

|算力资源切分,一卡变多卡,服务多个AI工作负载

针对AI小模型训推场景中“一张卡跑一个任务”的资源浪费问题,华为与上海交通大学联合研发XPU池化框架,可将单张GPU或NPU算力卡切分为多份虚拟算力单元,切分粒度精准至10%。这一技术实现了单卡同时承载多个AI工作负载,且通过弹性灵活的资源隔离技术,可实现算力单元的按需切分,“用多少,切多少”,使此类场景下的整体算力平均利用率提升30%,提高单卡服务能力。

|跨节点算力资源聚合,充分利用空闲算力

针对大量通用服务器因缺乏智能计算单元而无法服务于AI工作负载的问题,华为与厦门大学联合研发跨节点拉远虚拟化技术。该技术将集群内各节点的空闲XPU算力聚合形成“共享算力池”,一方面为高算力需求的AI工作负载提供充足资源支撑;另一方面,可让不具备智能计算能力的通用服务器通过高速网络,将AI工作负载转发到远端“资源池”中的GPU/NPU算力卡中执行,从而促进通用算力与智能算力资源融合。

|多级智能调度,实现AI工作负载与算力资源的精准匹配

面对算力集群中多品牌、多规格异构算力资源难以统一调度的痛点,华为与西安交通大学共同打造Hi Scheduler智能调度器。该调度器可自动感知集群负载与资源状态,结合AI工作负载的优先级、算力需求等多维参数,对本地及远端的虚拟化GPU、NPU资源进行全局最优调度,实现AI工作负载分时复用资源。即便在负载频繁波动的场景下,也能保障AI工作负载的平稳运行,让每一份算力都“物尽其用”。

Flex:ai的全面开源开放将向产学研各界开发者开放所有核心技术能力。通过汇聚全球创新力量,共同推动异构算力虚拟化与AI应用平台对接的标准构建,形成算力高效利用的标准化解决方案,为全球AI产业的高质量发展注入强劲动能。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 华为
    +关注

    关注

    218

    文章

    35800

    浏览量

    260735
  • AI
    AI
    +关注

    关注

    89

    文章

    38121

    浏览量

    296683
  • 开源
    +关注

    关注

    3

    文章

    4033

    浏览量

    45573

原文标题:算力利用效率跃升,华为联合三大高校发布并开源AI容器技术Flex:ai

文章出处:【微信号:huaweicorp,微信公众号:华为】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    华为发布AI容器技术Flexai,算力平均利用率提升30%

    电子发烧友网综合报道 2025年11月21日,在上海举办的“2025 AI容器应用落地与发展论坛”上,华为正式发布
    的头像 发表于 11-26 08:31 7140次阅读

    2025开放原子开发者大会开源欧拉AI创新分论坛即将启幕

    智算浪潮席卷全球,操作系统正从“适配AI”向“原生AI”跨越,开源模式已成为技术突破与全球协作的核心引擎。聚焦AGI时代的算力需求与业务创新
    的头像 发表于 11-13 09:59 443次阅读

    融合AI的OpenHarmony应用软件开发:ai学习自律辅助软件

    *附件:ai study.zip*附件:融合AI的OpenHarmony应用软件开发:ai学习自律辅助软件.pdf 基于开源鸿蒙编写的ai
    发表于 11-12 15:38

    NVIDIA推出面向语言、机器人和生物学的全新开源AI技术

    NVIDIA 秉持对开源的长期承诺,推出了面向语言、机器人和生物学的全新开源 AI 技术,为构建开源生态系统做出贡献,扩展
    的头像 发表于 11-06 11:49 698次阅读

    华为发布星河AI园区全域安全解决方案

    华为全联接大会2025期间,在以“共建AI Campus,跃升行业数智化”为主题的智慧园区创新峰会上,华为发布星河
    的头像 发表于 09-19 17:40 1075次阅读

    【「AI芯片:科技探索与AGI愿景」阅读体验】+AI芯片的需求和挑战

    景嘉微电子、海光信息技术、上海复旦微电子、上海壁仞科技、上海燧原科技、上海天数智芯半导体、墨芯人工智能、沐曦集成电路等。 在介绍完这些云端数据中心的AI芯片之后,还为我们介绍了边缘AI芯片。 云端
    发表于 09-12 16:07

    【「AI芯片:科技探索与AGI愿景」阅读体验】+内容总览

    AI芯片:科技探索与AGI愿景》这本书是张臣雄所著,由人民邮电出版社出版,它与《AI芯片:前沿技术创新未来》一书是姊妹篇,由此可见作者在AI
    发表于 09-05 15:10

    今日看点丨华为发布AI推理创新技术UCM;比亚迪汽车出口暴增130%

        降低HBM依赖,华为发布AI推理创新技术UCM   日前,华为正式发布
    发表于 08-13 09:45 3596次阅读

    【书籍评测活动NO.64】AI芯片,从过去走向未来:《AI芯片:科技探索与AGI愿景》

    :科技探索与 AGI 愿景》。 这本新书针对大模型技术浪潮,详细讲解了AI芯片的主流技术、挑战与创新解决方案,介绍了下一代芯片工艺和颠覆性
    发表于 07-28 13:54

    AI应用创新与全栈技术融合分论坛即将召开

    2025开放原子开源生态大会即将启幕,其中 “AI应用创新与全栈技术融合分论坛”将于 7月24日重磅亮相。论坛聚焦人工智能技术
    的头像 发表于 07-23 09:54 713次阅读

    软通动力携手华为发布AI应用创新领航计划

    华为开发者大会 2025期间,作为华为云全球战略合作伙伴,软通动力受邀出席华为云多场重要活动和会议。双方联合与伙伴一同发起“华为AI应用
    的头像 发表于 06-26 10:31 936次阅读

    首创开源架构,天玑AI开发套件让端侧AI模型接入得心应手

    正式提出“智能体化用户体验”方向,启动“天玑智能体化体验领航计划”。更值得注意的是,其三大AI工具链的发布——天玑开发工具集、AI开发套件2.0,以及升级的天玑星速引擎与旗舰芯片天玑
    发表于 04-13 19:52

    Banana Pi 发布 BPI-AI2N & BPI-AI2N Carrier,助力 AI 计算与嵌入式开发

    和 Renesas一直致力于推动开源生态的发展,积极合作打造高效、开放的计算平台。BPI-AI2N & BPI-AI2N Carrier 的
    发表于 03-19 17:54

    拥抱AI时代:华为云泰国发布全新云服务系列,加速企业迈向AI原生架构

    数字化浪潮"技术论坛。本次论坛吸引了200多位企业领袖和技术专家深入探讨AI时代的数据价值,并发布了一系列创新云服务,旨在为泰国数字化转型提
    的头像 发表于 03-16 11:24 789次阅读
    拥抱<b class='flag-5'>AI</b>时代:<b class='flag-5'>华为</b>云泰国<b class='flag-5'>发布</b>全新云服务系列,加速企业迈向<b class='flag-5'>AI</b>原生架构

    Banana Pi 与瑞萨电子携手共同推动开源创新:BPI-AI2N

    技术创新的共同追求,也为开源硬件行业的发展带来了更多可能性。BPI-AI2N & BPI-AI2N Carrier 将在 2025年3月11日-13日德国纽伦堡嵌入式世界展会
    发表于 03-12 09:43