0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

阿里云Serverless 容器服务全面升级:新增组件全托管、AI镜像秒级拉取能力

话说科技 来源:话说科技 作者:话说科技 2023-06-02 14:30 次阅读

6 月 1 日在阿里云粤港澳大湾区云峰会上,阿里云智能云原生应用平台总经理丁宇宣布,Serverless 容器服务 ASK全面升级,进一步帮助企业和开发者降本提效。

Gartner 曾预测,2023 年 70% 的 AI 应用将基于容器和 Serverless 技术开发。作为云原生的重要技术组成,K8s 已经被开发者和企业广泛认可,然而其自身复杂性和陡峭的学习曲线依然让人望而生畏。

阿里云在 2018 年发布了首个Serverless容器服务ASK,其本质是将容器的运行时和具体的节点运行环境解耦,让用户无需管理K8s节点和服务器,即可直接部署应用,大幅降低容器服务的使用门槛。目前,ASK在容器化应用、在线业务弹性、AI/大数据计算类任务等场景中被广泛使用。

此次 ASK 的全新升级,进一步整合了阿里云基础设施的能力,在使用成本、创建效率、异构资源兼容、弹性供给保障等方面带来显著提升,解决开发者在使用K8s的复杂性挑战,也顺应了 AI场景爆发下催生的新需求。

丁宇介绍,本次ASK升级涵盖了多个维度,包括对组件的全托管支持、AI镜像的秒级拉取能力,还降低了客户的使用成本。具体来说:

1、组件全托管,零K8s运维成本

ASK新增对 CoreDNS、Metrics Server 等十多个 K8s 核心组件的托管支持,提供动态容量规划能力,客户无需自行部署维护,最大化降低运维复杂度。同时,ASK也新增了智能化风险识别能力,支持自动化升级K8s版本,避免升级导致的应用故障或异常风险。

2、极致弹性,准确率提升80%

ASK 提供首界首创基于容器镜像缓存的 AI 大镜像秒级拉取能力,AI 应用启动时间降低90%。并且提供端到端的弹性加速,面向AI/大数据工作负载容器化进行全栈优化,通过数据集加速提升 30% 访问性能;此外,本次 ASK 还增强了智能弹性预测 AHPA能力,相比人工配置,弹性准确率提升 80%;同时新增对于 GPU 的支持。

3、普惠算力,性价比提升40%

为了给客户提供更好的服务,释放技术红利,让算力更普惠,ASK新增U实例规格支持,统一支持多款处理器,相比上一代主售实例降价高达40%。新增SavingPlan弹性版本,面向应用非固定波峰波谷场景,额外成本优化10%以上。为进一步让价格更透明,新增成本套件支持,清晰洞察弹性资源成本,让成本治理更便捷。

以数禾科技为例,这是一家为金融机构提供高效的智能零售金融解决方案的公司,对于模型的计算能力包括计算速度、计算结果准确性、计算数据实时性等,有很高的要求。而当前的困扰是支撑模型计算的底层应用资源无法根据请求量来调整机器资源支持运算能力,这也是当前业务快速发展过程中亟待解决的痛点。同时,随着模型在线推理服务数量的增加,数禾的模型服务也变得越来越庞大、臃肿,难以管理。这种状况不仅导致了资源浪费,还增加了维护和升级的成本。

为了解决这些“顽疾”,数禾科技采用阿里云 ASK 部署线上模型,无需 K8s 节点管理,根据实时流量动态使用 POD,资源成本节省60%;通过 ASK Knative 服务,解决了数禾模型的灰度发布和多版本并存问题;得益于ASK 自动伸缩和缩容到 0 的优势,降低运行成本,大幅提升服务可用性。

“使用阿里云容器服务 Knative 和 ECI 虚拟节点配合部署,保证线上模型应对突发流量的稳定性提升的同时,又使资源利用效率显著提高,极大地节约了资源成本。”数禾科技 AI 实验室 AI 平台负责人周伟鹏表示。

目前,ASK 已加入阿里云飞天免费试用计划,为开发者、企业提供一定额度的免费试用资源。3分钟就可以创建Kubernetes集群,开启容器弹性之旅。

审核编辑黄宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • AI
    AI
    +关注

    关注

    87

    文章

    26450

    浏览量

    264066
  • 阿里云
    +关注

    关注

    3

    文章

    883

    浏览量

    42615
  • serverless
    +关注

    关注

    0

    文章

    61

    浏览量

    4439
收藏 人收藏

    评论

    相关推荐

    阿里云内部全面推行AI写代码

    阿里云正在内部全面推行 AI 编程,使用通义灵码辅助程序员写代码、读代码、查 BUG、优化代码等。
    的头像 发表于 04-07 09:22 259次阅读

    鸿蒙原生应用元服务实战-Serverless华为账户认证登录需尽快适配

    已经使用serverless开发基本完成或者已经完成的,得用其他方式去实现才行吧。对于已经上架的应用和元服务升级也没法进行。
    发表于 02-20 10:14

    鸿蒙应用/元服务开发实战-Serverless存储没法创建处理方式

    新账户,Serverless存储没法创建 ,没法进行下一步。 解决方式 请按照这个方式修改一下就能正常创建了,浏览器中打开控制台输入 window.top.cfpConfig.cloudStorageSwitch=‘off’ 后再创建桶
    发表于 02-19 11:21

    华讯利用亚马逊云科技打造安全托管服务与产品组合

    的技术优势和深厚沉淀,为企业提供涵盖安全事件响应、云原生安全大数据平台以及围绕数据的安全自动化运维等安全托管服务和产品,助力企业构建完整的云上数据治理框架,实现数据全生命周期的安全防护。 作为亚马逊云科技高级咨询合作伙伴,华讯
    的头像 发表于 01-24 17:51 251次阅读

    鸿蒙原生应用/元服务开发-Serverless账户验证码的问题

    在应用/元服务早期使用过程中,-Serverless账户验证码的格式是[AGC][应用/元服务名称],如下图。 但是,在最近,[应用/元服务]名称直接变成了【default】,用户收到
    发表于 12-27 15:55

    Imagen 2 现已在 Vertex AI全面推出

    2 为 Google Cloud 图像生成功能带来的重大升级——这是我们最先进的文生图技术,现在已向许可名单 (即获准访问) 上的 Vertex AI 客户全面开放。 Vertex AI
    的头像 发表于 12-22 10:10 173次阅读
    Imagen 2 现已在 Vertex <b class='flag-5'>AI</b> 上<b class='flag-5'>全面</b>推出

    鸿蒙原生应用/元服务开发-新版本端一体化模板体验反馈

    Ability模板即可。 三、体验 新增: 最新端一体化新增数据库端一体组件”, 版本
    发表于 12-05 14:57

    轻松实现医学影像 AI:NVIDIA 提供 MONAI 托管服务

    这项创新服务具有用于交互式 AI 标注和训练的强大 API,可以加速医学影像解决方案发展。 NVIDIA 推出医学影像 AI服务,通过全托管
    的头像 发表于 11-30 19:35 236次阅读

    德勤中国与亚马逊云科技联合成立生成式AI联合实验室

    计算能力、亚马逊云科技海外区域推出的全新托管生成式AI服务Amazon Bedrock、和全托管机器学习
    的头像 发表于 11-17 09:43 424次阅读

    全域 Serverless+AI,华为云加速大模型应用开发

    日前,华为全联接大会 2023 在上海召开。华为云 CTO 张宇昕在大会上发布了基于 Serverless 技术的大模型应用开发框架,框架以面向 AI 领域全新升级的 FunctionGraph
    的头像 发表于 10-25 21:30 207次阅读
    全域 <b class='flag-5'>Serverless+AI</b>,华为云加速大模型应用开发

    HarmonyOS/OpenHarmony原生应用开发-华为Serverless服务支持情况(四)

    。借助存储服务,您可以无需关心存储服务器的开发、部署、运维、扩容等事务,大大降低了应用使用存储的门槛,让您可以专注于应用的业务能力构建,助力您的商业成功。 是支持HarmonyOS
    发表于 10-16 14:20

    HarmonyOS/OpenHarmony原生应用开发-华为Serverless认证服务说明(二)

    工作,以实现如下目的: 让认证服务来提供您的自有认证系统所不具备的认证方式; 让您自有认证系统中的用户以安全的方式访问其他Serverless服务(比如云数据库、存储等)。
    发表于 10-10 14:59

    HarmonyOS/OpenHarmony原生应用开发-华为Serverless云端服务支持说明(一)

    存:为函数提供Key-Value型高速缓存。 存储:助力应用存储图片、音频、视频等内容,并提供高品质的上传、下载、分享能力
    发表于 10-08 10:22

    HarmonyOS NEXT新能力,一站式高效开发HarmonyOS应用

    应用。 HarmonyOS SDK全面升级API 10,端一体,一次集成,更好支撑中大型应用开发 HarmonyOS开放能力围绕高效、精致、场景化核心思想进行了增强,
    发表于 08-14 15:08

    阿里组件的底层HAL TCP相关接口是不是有问题?

    使能AT组件,选择EC200S连接阿里,出现错误,一直解析不出来地址,换的AIR720也是这样,阿里
    发表于 05-05 14:41