0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

百度智能云两大基础设施再升级

百度 来源:百度 2025-04-30 10:20 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

近日,在Create2025百度AI开发者大会上,沈抖分享了百度智能云在智能基础设施建设方面的最新成果,并在算力、模型及应用等方面发布一系列全新产品。

大模型的高效落地亟需从底层算力到应用的全栈、系统级支撑——既需高性能硬件与集群优化,也需灵活的开发工具链与场景化解决方案。基于多年在大模型研发与产业落地的深厚积累,百度智能云构建了新一代系统级智能基础设施,为企业大模型应用落地提供最佳解决方案。

相关数据显示,2024全年百度智能云在大模型相关中标项目数、行业覆盖数、央国企中标项目数三个维度均为第一,在能源、政务、金融三个行业的中标项目数位于所有厂商第一。

截止目前,千帆平台企业用户数量超40万,千帆平台组件数量超1000个,企业在千帆平台上已开发出了超100万个应用。

沈抖表示,系统的价值,不仅是解决某一个问题,而是让企业拥有创造“创造的能力”。企业可以结合自己的数据、流程、逻辑,利用百度智能云的系统级能力打造企业专属AI基础设施。

01稳定、高效地释放算力的真正价值

算力是AI时代的“新电力”。本次大会,国内首个全自研的3万卡集群被正式点亮,可同时承载多个千亿参数大模型的全量训练,支持1000个客户同时做百亿参数的大模型精调。

如何稳定、高效地释放算力的真正价值才是关键所在。沈抖认为,未来三年,推理降本,一定是企业最重要的工作。

百度智能云全面升级百舸推理加速能力。通过大规模分布式推理的PD分离,百舸支持客户根据不同场景的业务特点,自适应地设置PD配比,并做到token级别的PD负载均衡。针对MoE模型,百舸做到了大规模多机专家并行的极致优化,可以大幅降低MoE模型推理的通信开销。最后,百舸对核心链路上的每一个细节做了系统级的工程优化,大幅提升GPU的有效利用率。

从百度内部实践来看,百舸推理加速的能力正在作为千帆的算力底座,为40万客户提供服务。上线以来,千帆的推理吞吐提升20倍,推理速度提升50%以上。在外部,百舸不止支持着像招商银行、中国石化、长安汽车等企业的超大规模算力需求,也很好地支撑着创企客户、伙伴的模型训练、推理需求。

以北京人形机器人创新中心为例,百度百舸为创新中心构建了稳定的超大算力集群,确保具身模型的训练和推理得以高效进行,支持了人形机器人的快速迭代。

在近日全球首个人形机器人半程马拉松中,北京人形机器人创新中心旗下纯电驱全尺寸人形机器人“天工”,以2小时40分42秒的成绩率先冲线一举夺冠。

02为企业应用开发提效!

千帆发布智能体Pro及MCP服务

企业部署大模型,不仅需要高性价比的模型服务,更需要全面的模型工具。在模型服务层面,目前千帆平台上有超过100多个模型,不仅包括文心大模型4.5 Turbo、文心大模型X1 Turbo等百度自研模型,还包括DeepSeek、Ilama、Vidu等第三方模型,服务稳定、可靠。在模型开发层面,千帆平台可以提供全面的模型开发工具链,支持深度思考模型、多模态模型的定制、精调。

以模型蒸馏为例,智联招聘在人岗匹配场景使用了千帆平台的模型蒸馏工具链,用千亿参数的DeepSeek R1作为“教师模型”,用百亿参数的ERNIE Speed作为“学生模型”,经过调优后的小参数模型,不仅可以媲美“教师模型”的效果,成本也降低至3成。

在应用开发上,本次大会千帆平台全面升级了企业级Agent开发工具链,发布了全新推理式智能体——智能体Pro,从快问快答升级到深思熟虑,并且支持每个企业定制自己的专属智能体。

以污水宝为例,基于千帆Agentic RAG能力,让Agent结合企业自己的私域数据和企业知识库,可以基于对任务的理解去制定检索策略,大幅降低模型幻觉。同时,智能体Pro也支持Deep Research深度研究模式,能让Agent自主完成复杂任务的步骤规划、信息筛选和整理,支持像人一样操控电脑浏览网页(computer use)进行探索式知识收集,也支持像人一样使用多种工具绘制图标、撰写,生成结构清晰、内容丰富的专业报告。

基于DeepResearch能力,荣耀正在利用千帆平台,面向高校学生、职场白领等群体,打造一款科研场景深度研究的应用,将很快会在荣耀笔记本上上线。

MCP的出现,帮助开发者和企业在开发Agent时,能够更好地利用行业数据和工具。本次大会,百度智能云正式发布国内首个企业级MCP服务,第一批已经有超过1000个MCP Servers 供企业及开发者灵活选择。另外,开发者也可以在千帆上开发自己的MCP Server,并发布到MCP广场,支持免费托管,而且百度搜索也会索引这些MCP Server,让它们被更多的开发者引用。

从模型服务到应用开发,企业客户已经在千帆平台上做出了很多行业创新。民生银行与百度智能云合作,探索大模型在商业银行的落地,完成了金融领域第一个端到端涵盖算力、平台、模型、应用四层架构的项目落地。

03自研AI应用重磅升级:实现营销全旅程服务

视觉AI应用成本大幅下降

百度智能云打造的智能基础设施也支撑着百度自己的应用创新。本次大会,百度智能云面向智能营销、视觉AI两大领域,升级了两大自研AI应用产品。

金融营销场景需要高精准获客、“高情商”客服及高效的流失预警,百度智能云本次升级发布客悦·ONE,在上述核心场景进行了全面优化,为客户提供全生命周期智能营销服务,助力企业实现营销效能全面提升。

以理财撤单场景为例,传统模式下,用户需经历复杂的说明阅读和多层级菜单操作,效率低下。客悦通过AI驱动的智能交互,极大简化了这一流程。AI不仅能识别并安抚用户焦虑,更能在对话中直接引导解决问题,还能自动提炼关键信息并回流数据,持续优化服务体验。

目前客悦已经服务银行、证券、保险等不同细分领域的金融企业50余家,落地金融行业10余个场景。

为了解决视觉AI模型训练周期长、门槛高,需要大量人工干预的问题。百度智能云升级发布一见5.0,在标准化高、规则清晰的任务中,仅需一句自然语言,即可秒级生成专业级视觉AI应用,一线业务人员也能轻松上手,借助云边协同,应用成本大幅降低,加速了视觉智能规模化的落地。

目前,百度智能云从算力、平台到应用的系统级能力,已经在多个企业场景中稳定运行。中国钢研与百度智能云联合打造全栈智能基础设施,基于昆仑芯和百舸,搭建了专属的智算平台;在千帆上做模型精调,使用大、小模型结合的方式获得最佳效果;结合一见视觉平台,快速完成了表面缺陷检测、金相分析等核心场景的应用开发。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    89

    文章

    38158

    浏览量

    296830
  • 百度
    +关注

    关注

    9

    文章

    2368

    浏览量

    94249
  • 智能云
    +关注

    关注

    0

    文章

    86

    浏览量

    10566

原文标题:百度智能云两大基础设施再升级!百度沈抖:让企业拥有创造“创造的能力”

文章出处:【微信号:baidu_2000,微信公众号:百度】欢迎添加关注!文章转载请注明出处。

收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    光庭信息成为百度智能大模型行业合伙人

    论坛上,光庭信息作为受邀企业出席,正式成为百度智能“大模型行业合伙人”,并荣获“行业卓越贡献伙伴奖”。这标志着双方合作进入了一个全新的阶段,将为AI+汽车产业智能
    的头像 发表于 09-02 16:17 629次阅读

    珠海泰芯半导体携手百度共筑智能硬件产业新生态

    2025年8月29日,北京国际会议中心二期迎来科技行业年度盛会。由百度智能与极客公园联合主办的百度智大会AI+
    的头像 发表于 09-01 17:46 878次阅读

    昆仑芯科技亮相2025百度智大会

    近日,2025百度智大会在北京国家会议中心二期隆重启幕。本届大会以“智能,生成无限可能”为主题,聚焦人工智能从技术到产业的全链条落地,深入探讨AI赋能千行
    的头像 发表于 09-01 11:00 997次阅读

    百度智能全面升级舸5.0和千帆4.0

    大会上,百度智能全面升级舸AI计算平台5.0、千帆企业级AI开发平台4.0两大AI
    的头像 发表于 08-30 09:18 1418次阅读

    百度智能亮相第二十二届ChinaJoy

    百度智能亮相第二十二届ChinaJoy 8月1日,第二十二届中国国际数码互动娱乐展览会(ChinaJoy)在上海开幕。大会期间,百度全景展示了百度
    的头像 发表于 08-05 09:47 647次阅读

    65%央企大模型落地首选百度智能

    今天,很荣幸地分享一个好消息,百度智能已牵手65%的央企,共同推进大模型产业落地。得益于全栈的AI能力,百度联合众多央国企伙伴,针对各类不同业务场景,打造了一大批可推广、可复制的标杆
    的头像 发表于 06-11 15:44 741次阅读

    格灵深瞳与百度智能达成战略合作,共筑AI算力新基建

    力底座,推动政务、金融、公共安全等领域的智能升级百度智能泛科技业务部总经理张玮,格灵深瞳销售副总裁芦斌代表双方签约,
    的头像 发表于 04-27 10:20 984次阅读

    百度文心大模型将升级并开源

    百度近日宣布,其文心大模型系列将迎来新版本升级,计划在未来数月内逐步推出文心大模型4.5系列。这一消息无疑为AI领域注入了新的活力。 据悉,百度文心大模型4.5系列将在技术上进行全面优化,旨在为用户
    的头像 发表于 02-14 14:25 747次阅读

    百度智能发布昆仑芯三代万卡集群及DeepSeek-R1/V3上线

    01百度智能点亮昆仑芯三代万卡集群 近日,百度智能成功点亮昆仑芯三代万卡集群,这也是国内首个
    的头像 发表于 02-11 10:58 964次阅读

    百度智能四款大模型应用接入DeepSeek

    近日,百度智能旗下四款重量级大模型应用产品——客悦、曦灵、一见、甄知,正式迎来了全新升级,接入了先进的DeepSeek模型。这一重要更新,标志着
    的头像 发表于 02-10 18:00 1131次阅读

    百度智能与统信软件达成战略合作

    近日,百度智能与统信软件正式签署了战略合作协议,标志着双方在数字化技术领域携手迈进新的发展阶段。 此次合作,百度智能
    的头像 发表于 02-10 15:43 658次阅读

    百度智能四款大模型应用完成DeepSeek适配

    百度智能在AI大模型应用方面取得了新的进展。近日,其旗下的客悦、曦灵、一见、甄知四款大模型应用产品已正式上线接入DeepSeek模型的新版本。 此次升级后的产品,将为企业
    的头像 发表于 02-10 10:47 743次阅读

    百度与阿里上线DeepSeek模型部署服务

    和DeepSeek-V3模型已正式入驻其千帆平台,并推出了极具吸引力的低价方案及限时周的免费试用服务。这一举措旨在让更多的用户能够体验到AI技术的魅力,同时也为百度智能在AI领域的
    的头像 发表于 02-05 15:40 1180次阅读

    百度智能点亮昆仑芯三代万卡集群

    近日,百度智能宣布成功点亮昆仑芯三代万卡集群,这一成就不仅在国内尚属首次,也标志着百度在人工智能算力领域取得了重大突破。据了解,
    的头像 发表于 02-05 14:58 996次阅读

    ElfBoard开源项目|百度智能平台的人脸识别项目

    百度智能平台的人脸识别项目,旨在利用其强大的人脸识别服务实现自动人脸识别。选择百度智能的原因
    的头像 发表于 12-24 10:54 1877次阅读
    ElfBoard开源项目|<b class='flag-5'>百度</b><b class='flag-5'>智能</b><b class='flag-5'>云</b>平台的人脸识别项目