0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

阿里云Serverless 容器服务全面升级:新增组件全托管、AI镜像秒级拉取能力

话说科技 来源:话说科技 作者:话说科技 2023-06-02 14:30 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

6 月 1 日在阿里云粤港澳大湾区云峰会上,阿里云智能云原生应用平台总经理丁宇宣布,Serverless 容器服务 ASK全面升级,进一步帮助企业和开发者降本提效。

Gartner 曾预测,2023 年 70% 的 AI 应用将基于容器和 Serverless 技术开发。作为云原生的重要技术组成,K8s 已经被开发者和企业广泛认可,然而其自身复杂性和陡峭的学习曲线依然让人望而生畏。

阿里云在 2018 年发布了首个Serverless容器服务ASK,其本质是将容器的运行时和具体的节点运行环境解耦,让用户无需管理K8s节点和服务器,即可直接部署应用,大幅降低容器服务的使用门槛。目前,ASK在容器化应用、在线业务弹性、AI/大数据计算类任务等场景中被广泛使用。

此次 ASK 的全新升级,进一步整合了阿里云基础设施的能力,在使用成本、创建效率、异构资源兼容、弹性供给保障等方面带来显著提升,解决开发者在使用K8s的复杂性挑战,也顺应了 AI场景爆发下催生的新需求。

丁宇介绍,本次ASK升级涵盖了多个维度,包括对组件的全托管支持、AI镜像的秒级拉取能力,还降低了客户的使用成本。具体来说:

1、组件全托管,零K8s运维成本

ASK新增对 CoreDNS、Metrics Server 等十多个 K8s 核心组件的托管支持,提供动态容量规划能力,客户无需自行部署维护,最大化降低运维复杂度。同时,ASK也新增了智能化风险识别能力,支持自动化升级K8s版本,避免升级导致的应用故障或异常风险。

2、极致弹性,准确率提升80%

ASK 提供首界首创基于容器镜像缓存的 AI 大镜像秒级拉取能力,AI 应用启动时间降低90%。并且提供端到端的弹性加速,面向AI/大数据工作负载容器化进行全栈优化,通过数据集加速提升 30% 访问性能;此外,本次 ASK 还增强了智能弹性预测 AHPA能力,相比人工配置,弹性准确率提升 80%;同时新增对于 GPU 的支持。

3、普惠算力,性价比提升40%

为了给客户提供更好的服务,释放技术红利,让算力更普惠,ASK新增U实例规格支持,统一支持多款处理器,相比上一代主售实例降价高达40%。新增SavingPlan弹性版本,面向应用非固定波峰波谷场景,额外成本优化10%以上。为进一步让价格更透明,新增成本套件支持,清晰洞察弹性资源成本,让成本治理更便捷。

以数禾科技为例,这是一家为金融机构提供高效的智能零售金融解决方案的公司,对于模型的计算能力包括计算速度、计算结果准确性、计算数据实时性等,有很高的要求。而当前的困扰是支撑模型计算的底层应用资源无法根据请求量来调整机器资源支持运算能力,这也是当前业务快速发展过程中亟待解决的痛点。同时,随着模型在线推理服务数量的增加,数禾的模型服务也变得越来越庞大、臃肿,难以管理。这种状况不仅导致了资源浪费,还增加了维护和升级的成本。

为了解决这些“顽疾”,数禾科技采用阿里云 ASK 部署线上模型,无需 K8s 节点管理,根据实时流量动态使用 POD,资源成本节省60%;通过 ASK Knative 服务,解决了数禾模型的灰度发布和多版本并存问题;得益于ASK 自动伸缩和缩容到 0 的优势,降低运行成本,大幅提升服务可用性。

“使用阿里云容器服务 Knative 和 ECI 虚拟节点配合部署,保证线上模型应对突发流量的稳定性提升的同时,又使资源利用效率显著提高,极大地节约了资源成本。”数禾科技 AI 实验室 AI 平台负责人周伟鹏表示。

目前,ASK 已加入阿里云飞天免费试用计划,为开发者、企业提供一定额度的免费试用资源。3分钟就可以创建Kubernetes集群,开启容器弹性之旅。

审核编辑黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    91

    文章

    40957

    浏览量

    302530
  • 阿里云
    +关注

    关注

    3

    文章

    1046

    浏览量

    45859
  • serverless
    +关注

    关注

    0

    文章

    65

    浏览量

    4915
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    利用BigQuery MCP服务器开发面向数据分析的生成式AI应用

    AI 智能体接入企业数据,其实不需要复杂的自定义集成或耗费数周开发。12 月,我们推出了面向 Google 服务全托管式远程 Model Context Protocol (MCP)
    的头像 发表于 02-25 10:22 432次阅读
    利用BigQuery MCP<b class='flag-5'>服务</b>器开发面向数据分析的生成式<b class='flag-5'>AI</b>应用

    深化阿里生态合作 优化治理能力再获权威认可

    科技专业优化治理服务能力的高度认可,更是双方长期深耕
    的头像 发表于 02-09 17:29 1133次阅读
    深化<b class='flag-5'>阿里</b><b class='flag-5'>云</b>生态合作 <b class='flag-5'>云</b>优化治理<b class='flag-5'>能力</b>再获权威认可

    全新升级!捷智算5090容器正式上线,轻量高效,AI开发新选择!

    捷智算5090容器全新升级上线啦!无论是AI开发、模型训练,还是日常测试与快速验证,5090容器
    的头像 发表于 01-16 18:17 1309次阅读
    全新<b class='flag-5'>升级</b>!捷智算5090<b class='flag-5'>云</b><b class='flag-5'>容器</b>正式上线,轻量高效,<b class='flag-5'>AI</b>开发新选择!

    延锋国际 X 阿里:全栈AI加速汽车产业智能升级

    近日,全球领先汽车零部件企业延锋国际与阿里正式签署全栈AI合作协议。未来,依托阿里领先的全栈AI
    的头像 发表于 12-12 09:16 410次阅读
    延锋国际 X <b class='flag-5'>阿里</b><b class='flag-5'>云</b>:全栈<b class='flag-5'>AI</b>加速汽车产业智能<b class='flag-5'>升级</b>!

    华为发布全新升级星河AI MSP服务解决方案

    ​华为数据通信创新峰会2025(HNS 2025)欧洲站期间,MSP(Managed Service Provider,管理服务提供商)高层圆桌会议在慕尼黑成功举办。会上,华为发布全新升级的星河
    的头像 发表于 10-13 09:44 1045次阅读

    亚马逊科技宣布推出Qwen3与DeepSeek-V3.1模型的完全托管服务

    亚马逊科技致力于成为运行开放权重模型的最佳平台,在Amazon Bedrock上新增五个模型选项,持续丰富模型选择,进一步满足客户需求。 主要亮点: · Qwen3系列提供适用于复杂编程和通用推理
    的头像 发表于 09-19 10:11 1005次阅读

    百度智能全面升级百舸5.0和千帆4.0

    大会上,百度智能全面升级百舸AI计算平台5.0、千帆企业AI开发平台4.0两大
    的头像 发表于 08-30 09:18 1956次阅读

    微软企业应用AI能力全面升级

    微软宣布,已将 OpenAI 迄今为止最具突破性的的 AI 技术系统 GPT-5 全面集成至其产品生态中,全面增强平台的的推理、代码生成与对话体验。最新版 GPT-5 已在 Microsoft
    的头像 发表于 08-15 11:44 1474次阅读

    睿海光电以高效交付与广泛兼容助力AI数据中心800G光模块升级

    器件敏捷调配。 定制化服务:支持OEM/ODM/JDM模式,满足客户从标准品到液冷模块的多元化需求。 这一优势已助力多家头部服务商在AI
    发表于 08-13 19:01

    高德与阿里一起,开启智慧出行新范式

    作为阿里AI生态伙伴计划-"繁花计划"首批标杆伙伴,高德开放平台携手阿里,面向企业开发者推出地图服务
    的头像 发表于 07-18 10:29 662次阅读

    替代自建物联平台的最优解?揭秘Tuya物联网平台阿里版的全托管力量

    诸多现实挑战。如何以更低成本、更短周期、更高效率构建面向未来的AIoT基础能力?涂鸦智能基于与阿里的深度合作,于去年9月重磅推出Tuya物联网平台阿里
    的头像 发表于 06-20 18:12 1715次阅读
    替代自建物联平台的最优解?揭秘Tuya物联网平台<b class='flag-5'>阿里</b><b class='flag-5'>云</b>版的<b class='flag-5'>全托管</b>力量

    四维图新与阿里达成战略合作

    Infra、智能座舱等领域的核心能力,以及阿里计算、人工智能及全球化服务的技术优势,共同推动汽车行业智能化转型
    的头像 发表于 06-05 17:53 1268次阅读

    HarmonyOS5服务技术分享--Serverless抽奖模板部署

    提前准备一个二域名(后面托管要用) 二、部署模板四部曲 1️⃣ ​​模板选择​​ 进入AGC控制台 → 开发 → Serverless模板 在模板市场找到\"抽奖活动模板\&quo
    发表于 05-22 20:25

    HarmonyOS5服务技术分享--Serverless搭建抽奖

    /function.js文件中的函数名(对应之前创建的函数) 压缩dist文件夹内容为dist.zip(注意❗要选中文件后压缩,别直接压缩文件夹) 2️⃣ 托管配置: 进入
    发表于 05-22 20:20

    HarmonyOS5服务技术分享--ArkTS开发Node环境

    气的方式探索这个功能,结尾还有实用总结和鼓励彩蛋哦~✨ ? 一、HarmonyOS函数开发:核心能力与价值 HarmonyOS的函数(Serverless)为开发者提供了​​无
    发表于 05-22 17:21