0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

千行百业用AI大模型,为什么火山引擎是聚处?

脑极体 来源:脑极体 作者:脑极体 2024-09-06 10:58 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

wKgaombab8eAIhcKAAfGJsBiXv0234.jpg

“角儿是座儿叫出来的”,这句话不仅适合相声艺术,也很符合AI大模型商业化的现状。

今年以来,“大模型落地”成为AI和云产业的高频词。避免“叫好不叫座”,让AI大模型更快地融入行业场景之中,被各行各业真正用起来,是当务之急。

行业用户多、落地案例丰富的大模型及AI服务生态,才算完成从实验室到商业化的闭环,才能在市场竞争中站稳脚跟。

wKgZombab8iAUrTuAAYOyQ_hZaI832.jpg

最近恰逢2024火山引擎AI创新巡展,来到了天津站,分享豆包大模型的最新进展,并携手南开大学发布教育行业大模型应用开发平台。豆包大模型成功走进“象牙塔”,打造了“AI+教育”的落地标杆。

另外值得一提的是一组最新数据,截至7月,豆包大模型平均每家企业客户日均 Tokens使用量,较5月15日模型发布时期增长了22倍。在零售、汽车、智能终端等行业,都携手企业用户,落地了不少AI实践。

火山引擎,让AI大模型越来越“叫座”,在行业智能化中扮演着越来越重要的角色。

传统相声曲艺界有句话,叫“北京是出处,天津是聚处”。天津并非相声发源地,却将相声艺术发扬光大。有人说,因为天津观众的欣赏眼光高,接受住天津观众的考验,才算在相声界站稳脚跟。

我们也不妨就从南开大学的“AI+教育”实践开始,看看火山引擎到底经受了哪些考验,才最终在行业站稳了脚跟。

wKgaombab8mAczsJAAHhiH0Q8vI076.jpg

要说哪些行业对AI技术和服务的要求较高,教育行业一定排在前列。

简单来说,教育行业的用户数字素养普遍比较高,对数字服务和体验的要求也更高。而且,由于教学信息化、数字化变革早,科研任务的数据量大,高校数字基础设施建设也相对成熟,对AI的需求更多在于如何提升教学/管理/服务水平。

所以,AI大模型要融入教育场景,带来用户体验和管理效率上的实际提升,收获认可,并不是一件容易的事。

以南开大学为例,通过深入的调研和测试,最终选择与火山引擎合作,为师生的学习、工作和生活提供更加便捷、高效的服务。

此次“AI+教育”实践,体现出三个特点:

1.融合程度深。南开大学利用火山引擎的AI技术,改革教学、科研及管理体系,打造国内首个全面融合大模型能力的智慧校园,在全国范围内属于先例,具有标杆意义。

2.落地范围广。目前,双方已经在“AI技术设施”与“AI 管理服务”两个场景,落地一批“AI+教育”场景化应用,如教学场景中的“大学语文学习助手”“编程实训助手”,服务场景的“新一代校园AI智能融合门户”“部门服务助手”,以及管理场景中的“数据管理助手”,全面满足南开师生在教学和服务场景下的智慧学习、智能办事、教学咨询、数据查询、知识答疑等需求。

3.升级难度小。此次南开大学的智能化升级,火山引擎帮助建设了先进的AI基础设施,全力优化AI总体技术服务的底座与能力,提供了从硬件算力到开发工具、推理部署的一系列系统。这个完备的AI服务生态,让南开大学可以更聚焦于自身擅长的能力和行业经验,减少了智能化升级的难度。

比如已经落地的南开大学大模型应用开发平台,现已开放给南开的广大师生,使用大语言模型变成像使用Windows操作系统一样简单、易用,教育智能化的创新速度和效率,自然也就大大提高了。

目前来看,一系列AI赋能项目的实施和AI应用的落地,让南开大学在教学质量、科研效率和校园管理等方面都取得了显著进步。

wKgaombab8yAM2INAAV4gCCXaY8379.jpg

(南开大学副校长、教授、博士生导师方勇纯)

南开大学副校长、教授、博士生导师方勇纯表示:“南开大学携手火山引擎,共同探索‘AI+教育’的创新模式,落地一批AI应用场景,培养一支高水平的AI人才队伍,全场景拥抱大模型,推进‘数字南开’智慧校园建设。”

可以看到,火山引擎的全栈AI技术服务生态,已经在海河之滨,点亮了一座AI在教育行业的落地灯塔。

wKgZombab8yAXIDMAAGOed-tsTo082.jpg

与南开大学的合作中,火山引擎输出的不只有豆包大模型,还有火山方舟大模型服务平台、HiAgent AI应用创新平台以及AI全栈云等多种能力。这并不是孤例,而是很多行业引入AI的普遍现象。

随着以大模型为主的AI技术不断进化,涉及的相关技术体系也越来越庞杂,行业想要引入AI,需要考虑到算力资源、成本、开发工具、应用等方方面面,每一个环节都可能形成阻碍。这就使得行业从以往单一地采购硬件、算力或技术,转变为系统性地引入AI能力。

这时候,综合能力过硬的火山引擎,就迎来了惊艳亮相的舞台机会。

相声艺术的基本功是说学逗唱,火山引擎也在大模型落地行业场景时用到了三大基本功。

wKgaombab82AcVfcAATSKzuAnxs607.jpg

(火山引擎副总裁 张鑫)

功力一:更强模型。

行业用户最担心的,就是模型效果不达预期,无法在真实的生产环境中,利用大模型的理解、生成等能力,为业务提质增效。解决办法,就是把AI能力构筑在足够先进的模型底座上。

智源研究院旗下的 FlagEval 大模型评测平台6月发布的评测榜单显示,在闭源大模型的“客观评测”中,豆包大模型以综合评分75.96分排名国产大模型第一,并且还在不断升级演进。2024火山引擎AI创新巡展-上海站最新数据显示,豆包大模型综合能力提升了20.3%,角色扮演等6个维度性能最高提升38.3%,可以支撑行业用户构建更优质的语音对话、文本理解与生成、图像识别等AI应用。发布2个月以来,平均每家企业客户日均Tokens使用量增长22倍。建立在规模使用量上的“数据飞轮”转动起来,模型能力持续领先。

功力二:更易落地。

在实际业务中,AI大模型面临的环境更复杂、干扰源也更多,因此算法的准确率、鲁棒性等也会受影响,行业用户要真正把AI用起来,还需要结合知识库、专有数据、finetune进一步优化。

让AI落地无忧,火山引擎打造了从算力到应用的一系列平台和解决方案。比如一站式大模型服务平台火山方舟,提供模型精调、推理、评测等全方位功能与服务;模型层,豆包大模型家族,提供丰富的垂类模型,适配多种业务场景;应用层,企业级AI应用开发平台扣子专业版,提供专业级SLA和多种高级特性,使AI应用更易落地。AI 应用创新平台HiAgent,让业务人员可以轻松构建智能体,适配企业个性化需求,简化AI应用创新。火山引擎 AI 全栈云依托字节跳动的海量资源共池,支持多芯、多云架构,拥有超大规模算力,解除“买不到、买不起”算力的后顾之忧。

在此次天津站活动中,不仅南开大学分享了基于火山引擎全栈云与AI服务的智慧校园应用探索,中国国航、协和医院也分享了AI赋能业务的相关实践。

功力三:更低价格。

随着AI走向各行各业和生产环境,日常训练和推理的使用量不断增大,成本也变成了行业用户在引入AI时最关注的要素之一。模型价格高,试错成本高,会阻碍行业AI应用创新的意愿和行动。因此,更普惠的AI才是行业真正需要的。

帮助企业卸下成本负担,火山引擎一方面从当前入手,直接削减大模型推理成本,通过技术手段优化,让豆包大模型在各家大模型最强版本价格对比中,比行业价格低98%以上;另一方面着眼于长期使用,提供业内最高标准的初始TPM(每分钟Tokens)和RPM(每分钟请求数),每分钟处理Tokens 限额最高可达同梯队模型数倍,以更低价格、更高吞吐,让大模型在生产环境中用起来。

“叫好又叫座”的AI,不仅是发布会和实验室里碾压同行的漂亮数据与排名,更要走上行业舞台、直面群众,变成实际的案例与价值。

这是AI商业化所必须解决的挑战,也是云和模型厂商猛攻的新赛道。而火山引擎,已经亮出了具有说服力、全面而深厚的AI功底。

wKgaombab86AKi0bAAH5kR4ugmg527.jpg

行之有效的行业案例,可以证明大模型确实有实用价值,才能推动各行各业“移风易俗”,向AI奔涌而来。

从这个角度看,已经在教育、零售、汽车、智能终端等领域点亮了AI灯塔的火山引擎,正吸引着越来越多的行业客户奔赴而来,为什么?

首先,“灯塔式”案例,可以照亮前路。当行业用户不知道AI有什么用、怎么用,这些示范案例可以像灯塔一样指明方向,让其他同类用户直接“抄作业”,减少创新的不确定性。

除了与南开大学进行“AI+教育”探索,火山引擎还在零售领域,推出了解决方案,包括以豆包大模型为基础的智能导购、VOC洞察分析、零售客服质检、零售客服陪练、练播房提升主播带货水平、企业商品知识库等技术和工具,助力零售智能化升级和业务增长。

在汽车行业,2024年8月梅赛德斯-奔驰与火山引擎合作,探索大模型、生成式人工智能和大数据等技术在智能座舱、车载应用等领域的落地。

有了这些案例,行业用户或许可以更勇敢一点,积极拥抱AI。

“灯塔”给出了升级方向,千行万业用户还要在陌生的智能航路上,独自探索,其间可能遭遇的暗礁与孤独感,这时则呼唤着伙伴同行。

为行业护航,火山引擎不仅亲自出马,搭建了完整的AI服务生态体系,也格外重视生态联盟的建设。

今年5月成立的智能终端大模型联盟,吸引了OPPO、vivo、三星、华硕等多个厂商,共同探索AI智能硬件的新路线;同月成立的汽车大模型生态联盟,除了一汽红旗、吉利、长城等车企外,还包括中国电动汽车百人会等行业组织也都加入,围绕汽车大模型应用场景及路径、汽车大模型行业标准、汽车大模型评估体系建设落地,行业白皮书发布等方向为汽车行业创新合作发展带来新模式。

8月成立的零售大模型生态联盟,则以AI交互为核心,将联合零售上下游企业,重新定义购买、营销、产品、供应链等场景,加速零售业的运营和周转效率,全面提升消费者的购物体验,推动行业进步发展。

上述生态联盟的意义在于,能够聚合产业的变革力量,让行业用户不再是AI路上的独行者。

火山引擎的一系列生态化动作,正推动AI从落地企业,进入到了落地产业的新阶段,让智能化从一家企业、一个行业的探索,变成整个产业都在加速拥抱的未来。而火山引擎自身,也成为连接AI与产业的核心枢纽。

或许未来,当我们回顾这段产业智能化的升级历程会说:火山引擎,既是AI技术的出处,也是千行百业的聚处。

wKgZombab9CAQL-GAAG6OxFsj3A187.jpg

审核编辑 黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    89

    文章

    38179

    浏览量

    296942
  • 大模型
    +关注

    关注

    2

    文章

    3450

    浏览量

    4974
  • AI大模型
    +关注

    关注

    0

    文章

    395

    浏览量

    942
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    思必驰亮相2025 AI Partner百业大会

    AI浪潮席卷千行百业,“中国式方案”正在无声地改写着全球科技产业版图,实现“AI+”与千行百业
    的头像 发表于 09-03 09:13 721次阅读

    南方智能SmartDBase数字孪生底座平台赋能千行百业智慧升级

    表达、时空计算和场景推演六大能力于一体,实现了时空信息生产、治理、应用全链条服务能力跃迁,赋能千行百业迈向数字化未来。
    的头像 发表于 08-25 11:39 1494次阅读

    龙芯产品赋能千行百业的突破性进展

    近日,2025龙芯产品发布暨用户大会在北京成功举办。本次大会集中展示了龙芯从基础民生到国防安全、从石油化工到航空航天、从智慧农业到轨道交通等领域的全栈创新应用成果,多角度、全方位呈现了龙芯科技赋能千行百业的突破性进展,为与会嘉
    的头像 发表于 07-11 09:48 827次阅读

    腾视科技TS-NV-P100系列AI边缘算力盒子综合算力高达157TOPS:重新定义AI边缘算力,赋能千行百业智能化升级

    视科技正通过持续的技术创新,为千行百业的智能化转型提供坚实的边缘算力底座,让AI真正成为驱动产业升级的核心动能。
    的头像 发表于 07-02 10:24 1482次阅读
    腾视科技TS-NV-P100系列<b class='flag-5'>AI</b>边缘算力盒子综合算力高达157TOPS:重新定义<b class='flag-5'>AI</b>边缘算力,赋能<b class='flag-5'>千行</b><b class='flag-5'>百业</b>智能化升级

    腾视科技TS-NV-P100系列AI边缘算力盒子综合算力高达157TOPS:重新定义AI边缘算力,赋能千行百业智能化升级

    视科技正通过持续的技术创新,为千行百业的智能化转型提供坚实的边缘算力底座,让AI真正成为驱动产业升级的核心动能。
    的头像 发表于 07-02 10:16 770次阅读

    中兴通讯推动千行百业数智进阶的创新实践

    近日,2025 MWC 上海正式启幕,中兴通讯首席发展官崔丽应邀出席在同日举行的“科技企业转型:引领创新新时代”主旨演讲和以“预见未来,从5G-A到6G”为主题的2025 GTI上海国际产业大会,分享中兴通讯在AI模型驱动的智能革命浪潮中,推动
    的头像 发表于 06-23 15:00 974次阅读

    已有65%的央企选择 AI算力深入千行百业

    度宣布已有65%的央企选择与度智能云开展深度合作,共同探索AI创新。同时,度智能云重磅发布帆慧金金融大
    的头像 发表于 06-10 12:03 1015次阅读
    已有65%的央企选择 <b class='flag-5'>AI</b>算力深入<b class='flag-5'>千行</b><b class='flag-5'>百业</b>

    移远通信携手火山引擎:加速AI模型技术应用,共绘AIoT智能未来新蓝图

    4月2日,移远通信受邀参加火山引擎联合英特尔在深圳举办的“AIoT智变浪潮”技术沙龙。活动以“大模型+音视频,如何驱动AI硬件体验革新”为主题,众多行业大咖齐聚一堂,围绕硬件智能升级面
    的头像 发表于 04-02 19:02 1092次阅读
    移远通信携手<b class='flag-5'>火山</b><b class='flag-5'>引擎</b>:加速<b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>技术应用,共绘AIoT智能未来新蓝图

    华为全光网加速AI普惠千行

    近日,在“华为中国合作伙伴大会2025”期间,华为光产品线总裁陈帮华发表了“无光不AI,全光网加速AI普惠千行”主题演讲。他表示,各行各业都在积极拥抱
    的头像 发表于 04-01 15:32 855次阅读

    移远通信智能模组全面接入多模态AI模型,重塑智能交互新体验

    随着千行百业数智化进程的不断加速,多模态AI模型的应用需求不断攀升,图像、语音、视频等多样化的交互方式正逐渐成为推动行业变革的新动力。   3月20日,全球物联网整体解决方案供应商移
    发表于 03-21 14:12 427次阅读
    移远通信智能模组全面接入多模态<b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>,重塑智能交互新体验

    移远通信智能模组全面接入多模态AI模型,重塑智能交互新体验

    随着千行百业数智化进程的不断加速,多模态AI模型的应用需求不断攀升,图像、语音、视频等多样化的交互方式正逐渐成为推动行业变革的新动力。3月20日,全球物联网整体解决方案供应商移远通信
    的头像 发表于 03-20 19:03 668次阅读
    移远通信智能模组全面接入多模态<b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>,重塑智能交互新体验

    MWC 2025 | 广和通发布「AI For X」:以AI重塑千行百业

    作为全球领先的AIoT模组及解决方案提供商,广和通26年来始终致力于为全球千行百业打造创新物联方式。面向全新的AI时代,广和通推出「AI For X」,宣布以全方位、多方式的
    的头像 发表于 03-03 18:06 761次阅读
    MWC 2025 | 广和通发布「<b class='flag-5'>AI</b> For X」:以<b class='flag-5'>AI</b>重塑<b class='flag-5'>千行</b><b class='flag-5'>百业</b>

    MWC 2025 广和通发布「AI For X」:以AI重塑千行百业

    深圳2025年2月28日 /美通社/ -- 作为全球领先的AIoT模组及解决方案提供商,广和通26年来始终致力于为全球千行百业打造创新物联方式。面向全新的AI时代,广和通推出「AI F
    的头像 发表于 03-03 16:39 570次阅读

    中科曙光以AI加速智能计算服务千行

    近年来,中科曙光以AI为中心,全面重构底层芯片、液冷、计算、存储、智算集群、基础软件栈、管理平台,并与AI场景有机适配、融合,加速智能计算服务千行
    的头像 发表于 02-10 17:45 1563次阅读

    广和通CES 2025发布Fibocom AI Stack,赋能千行百业端侧应用

    千行百业的智能化转型提供强有力的支持。 Fibocom AI Stack集成了高性能模组、AI工具链、高性能推理引擎、海量
    的头像 发表于 01-08 15:18 1127次阅读