0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

阿里云Serverless 容器服务全面升级:新增组件全托管、AI镜像秒级拉取能力

话说科技 来源:话说科技 作者:话说科技 2023-06-02 14:30 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

6 月 1 日在阿里云粤港澳大湾区云峰会上,阿里云智能云原生应用平台总经理丁宇宣布,Serverless 容器服务 ASK全面升级,进一步帮助企业和开发者降本提效。

Gartner 曾预测,2023 年 70% 的 AI 应用将基于容器和 Serverless 技术开发。作为云原生的重要技术组成,K8s 已经被开发者和企业广泛认可,然而其自身复杂性和陡峭的学习曲线依然让人望而生畏。

阿里云在 2018 年发布了首个Serverless容器服务ASK,其本质是将容器的运行时和具体的节点运行环境解耦,让用户无需管理K8s节点和服务器,即可直接部署应用,大幅降低容器服务的使用门槛。目前,ASK在容器化应用、在线业务弹性、AI/大数据计算类任务等场景中被广泛使用。

此次 ASK 的全新升级,进一步整合了阿里云基础设施的能力,在使用成本、创建效率、异构资源兼容、弹性供给保障等方面带来显著提升,解决开发者在使用K8s的复杂性挑战,也顺应了 AI场景爆发下催生的新需求。

丁宇介绍,本次ASK升级涵盖了多个维度,包括对组件的全托管支持、AI镜像的秒级拉取能力,还降低了客户的使用成本。具体来说:

1、组件全托管,零K8s运维成本

ASK新增对 CoreDNS、Metrics Server 等十多个 K8s 核心组件的托管支持,提供动态容量规划能力,客户无需自行部署维护,最大化降低运维复杂度。同时,ASK也新增了智能化风险识别能力,支持自动化升级K8s版本,避免升级导致的应用故障或异常风险。

2、极致弹性,准确率提升80%

ASK 提供首界首创基于容器镜像缓存的 AI 大镜像秒级拉取能力,AI 应用启动时间降低90%。并且提供端到端的弹性加速,面向AI/大数据工作负载容器化进行全栈优化,通过数据集加速提升 30% 访问性能;此外,本次 ASK 还增强了智能弹性预测 AHPA能力,相比人工配置,弹性准确率提升 80%;同时新增对于 GPU 的支持。

3、普惠算力,性价比提升40%

为了给客户提供更好的服务,释放技术红利,让算力更普惠,ASK新增U实例规格支持,统一支持多款处理器,相比上一代主售实例降价高达40%。新增SavingPlan弹性版本,面向应用非固定波峰波谷场景,额外成本优化10%以上。为进一步让价格更透明,新增成本套件支持,清晰洞察弹性资源成本,让成本治理更便捷。

以数禾科技为例,这是一家为金融机构提供高效的智能零售金融解决方案的公司,对于模型的计算能力包括计算速度、计算结果准确性、计算数据实时性等,有很高的要求。而当前的困扰是支撑模型计算的底层应用资源无法根据请求量来调整机器资源支持运算能力,这也是当前业务快速发展过程中亟待解决的痛点。同时,随着模型在线推理服务数量的增加,数禾的模型服务也变得越来越庞大、臃肿,难以管理。这种状况不仅导致了资源浪费,还增加了维护和升级的成本。

为了解决这些“顽疾”,数禾科技采用阿里云 ASK 部署线上模型,无需 K8s 节点管理,根据实时流量动态使用 POD,资源成本节省60%;通过 ASK Knative 服务,解决了数禾模型的灰度发布和多版本并存问题;得益于ASK 自动伸缩和缩容到 0 的优势,降低运行成本,大幅提升服务可用性。

“使用阿里云容器服务 Knative 和 ECI 虚拟节点配合部署,保证线上模型应对突发流量的稳定性提升的同时,又使资源利用效率显著提高,极大地节约了资源成本。”数禾科技 AI 实验室 AI 平台负责人周伟鹏表示。

目前,ASK 已加入阿里云飞天免费试用计划,为开发者、企业提供一定额度的免费试用资源。3分钟就可以创建Kubernetes集群,开启容器弹性之旅。

审核编辑黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    89

    文章

    38085

    浏览量

    296320
  • 阿里云
    +关注

    关注

    3

    文章

    1028

    浏览量

    45484
  • serverless
    +关注

    关注

    0

    文章

    65

    浏览量

    4844
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    HarmonyOS5服务技术分享--Serverless抽奖模板部署

    提前准备一个二域名(后面托管要用) 二、部署模板四部曲 1️⃣ ​​模板选择​​ 进入AGC控制台 → 开发 → Serverless模板 在模板市场找到\"抽奖活动模板\&quo
    发表于 05-22 20:25

    HarmonyOS5服务技术分享--Serverless搭建抽奖

    /function.js文件中的函数名(对应之前创建的函数) 压缩dist文件夹内容为dist.zip(注意❗要选中文件后压缩,别直接压缩文件夹) 2️⃣ 托管配置: 进入
    发表于 05-22 20:20

    HarmonyOS5服务技术分享--ArkTS开发Node环境

    气的方式探索这个功能,结尾还有实用总结和鼓励彩蛋哦~✨ ? 一、HarmonyOS函数开发:核心能力与价值 HarmonyOS的函数(Serverless)为开发者提供了​​无
    发表于 05-22 17:21

    阿里是什么?企业不可不知的云端架构服务

    阿里是什么?中国高速连线阿里 CDN 服务 阿里
    的头像 发表于 03-16 09:43 1284次阅读

    AI算法托管平台是什么

    AI算法托管平台是一种提供AI模型运行、管理和优化等服务的云端或边缘计算平台。下面,AI部落小编带您详细了解
    的头像 发表于 03-06 10:22 832次阅读

    科技获亚马逊科技生成式AI能力认证

    近日,管理服务提供商聚科技成功获得亚马逊科技生成式AI能力认证。此次认证标志着聚
    的头像 发表于 02-19 10:33 830次阅读

    RAKsmart加入i2Coalition新成立的安全托管联盟SHA

    2025年2月10日,互联网基础设施联盟(i2Coalition)正式启动了安全托管联盟(Secure Hosting Alliance,简称SHA)。这一新联盟由23家托管服务提供商及相关公司组成
    的头像 发表于 02-17 11:54 460次阅读

    科技荣获亚马逊科技生成式AI能力认证

    助力企业加速生成式AI应用落地 北京2025年2月14日 /美通社/ -- 管理服务提供商聚科技获得亚马逊科技生成式
    的头像 发表于 02-14 16:07 694次阅读

    巨人网络与阿里深化AI合作

    基础,巨人网络与阿里此次深化合作,旨在探索AI在游戏领域的更多可能性。巨人网络表示,公司正在积极研究AI的通用泛化能力、多模态内容理解与生
    的头像 发表于 02-14 14:06 909次阅读

    科技荣获亚马逊科技生成式AI能力认证 助力企业加速生成式AI应用落地

    北京 ——2025 年 2 月 14 日 管理服务提供商聚科技获得亚马逊科技生成式AI能力
    发表于 02-14 13:41 323次阅读

    MLOps托管服务怎么样

    MLOps托管服务以其卓越的性能和显著的优势,成为企业加速机器学习应用落地的理想选择。以下,是对MLOps托管服务优势的介绍,由AI部落小编
    的头像 发表于 01-22 10:21 477次阅读

    阿里升级通义灵码AI程序员,全面上线

    近日,阿里宣布其备受瞩目的通义灵码AI程序员已正式全面上线,为开发者带来更为强大和便捷的编程辅助工具。 此次上线的通义灵码AI程序员,在功
    的头像 发表于 01-09 11:16 953次阅读

    华为 X 实例的镜像管理详解

    前言 随着计算的不断普及,服务器成为企业和开发者日常工作中的重要工具。为了提升工作效率和降低运维成本,服务
    的头像 发表于 01-07 17:01 1483次阅读
    华为<b class='flag-5'>云</b> X 实例的<b class='flag-5'>镜像</b>管理详解

    Amazon Bedrock全新升级新增业界领先的AI防护、新智能体功能和模型定制能力

    通社/ -- 亚马逊科技在2024 re:Invent全球大会上,宣布推出Amazon Bedrock的三项新功能。Amazon Bedrock是一项完全托管服务,借助高性能基础模型,构建和扩展
    的头像 发表于 12-12 15:56 777次阅读

    阿里代理有哪些?

    的旗舰代理商。 阿里代理商级别概况 阿里代理商分为以下几种级别: 标准代理商:基础级别的
    的头像 发表于 12-06 15:44 1311次阅读