创作

完善资料让更多小伙伴认识你,还能领取20积分哦, 立即完善>

3天内不再提示

星环科技推企业级AI能力运营平台Sophon MLOps 助推AI模型落地

科技绿洲 来源:星环科技 作者:星环科技 2022-05-12 17:17 次阅读

在国内政策引导、企业产业智能升级的原生需求和疫情等多重因素作用下,中国的人工智能产业化应用在过去的5年间呈现出无可比拟的增长速度。然而随着人工智能和机器学习在企业各个业务层面的应用日渐深化,模型类型和数量也都呈快速增长态势。由于不同模型之间的训练框架、部署模式、输入输出都不相同,导致异构模型难以被统一管理。同时,各部门间缺少统一的模型从开发到上线的标准化流程规范,导致模型资产散落在各个业务部门,难以被统一纳管为企业数据资产。不断增加的模型管理成本和运维复杂度,以及生产环境的不可控风险,给企业模型管理带来了一系列挑战。

为解决AI落地难的问题,星环科技的AI团队从用户需求端出发,倾力研发了一款基于云原生架构的企业级AI能力运营平台Sophon MLOps,助推AI模型落地。Sophon MLOps 是基于云原生架构构建的企业级AI能力运营平台,聚焦于机器学习模型全生命周期中的模型管理、模型部署、模型监控预警、模型评估和模型迭代等关键环节。通过统一纳管、统一运维、统一应用、统一监控、统一评估、统一解释,赋予企业客户易用、高效且安全可靠的AI能力运营服务,协助客户规模化管理日益增长的机器学习模型,提升模型使用效率,降低模型集成管理成本,控制模型生产环境风险。

Sophon MLOps针对企业AI运营的痛点,围绕企业AI模型接入、运营管理、持续训练的全生命周期,分别提供规模化集成管理、高效模型推理、模型监控预警、模型性能评估、隐私安全保障等功能,为企业的AI日常运营插上翅膀。

星环科技9

此次更新,MLOps升级至v1.1版本,在已有功能上新增功能如下:

新增模型服务批量预测功能:完善了应用场景,功能覆盖范围从原有的仅支持在线实时预测,升级为同时支持在线与离线两种模式。离线批量预测功能支持通过直接连接数据库,获取批量数据进行模型预测,并将结果写回相应库表内,实现闭环;

新增模型服务数据偏移指标监控功能:强化了模型服务在监控预警方面的能力,致力于帮助用户更全面掌握机器学习模型服务的运行状态,并通过自定义监控指标及时发现处理异常情况,规避因数据偏移等原因引起的风险;

新增模型服务监控指标配置及告警功能;

新增服务发布审批流程管理;

新增可解释机器学习XAI模块(MVP版):可处理数据分析过程中的相关性解释、过程性解释、推理性解释和因果性解释问题。用户可以精细地分析特征与结果之间的影响关系,帮助用户精准地提升DataCentric-AI数据治理能力,针对性优化模型精度,帮助用户快速定位、优化影响业务结果的重要因子,从而促使业务成功。

在金融科技行业,随着监管政策的不断收紧,银保监会于2020年7月正式出台了《商业银行互联网贷款管理行办法》,要求商业银行落实模型从开发测试、评审、监测到退出的全生命周期的风险管理。一方面为满足监管合规要求,另一方面提升行内风险模型的管理效率,银行要求对模型全生命周期进行统一管理。此外,随着行内业务的持续发展,大量异构AI模型资产散落在各部门,一旦需要使用,调参和部门间协调均使得模型部署周期拉长。

Sophon Base 3.1使用MLOps搭建了全行统一的AI模型管理平台,快速接入行内积累的不同框架或平台训练生成的大量模型文件,按版本集成管理模型资产;并建立标准化流程,统一构建模型推理逻辑的方式,支持零代码一键部署模型应用。基于云原生基础架构,打通模型全生命周期流程,实现了银行对模型应用的统一运维和监控。

平台上线后,Sophon Base集成了全行多种算法框架生成的数百个机器学习模型。部署模型应用的平均时间由1.5天降至0.5小时,配置成本降低近80%,使模型的平均迭代周期由1月降至1周。模型效率方面,支持上百个模型预测服务同时在线,单条数据实现毫秒级响应。

Sophon MLOps打通了AI的全生命周期,为企业的各类用户角色搭建了统一的AI协作平台。对于企业而言,MLOps规模化集成管理了多源异构的机器学习模型,并提供高效且保障隐私安全的模型推理、监控预警及性能评估服务;对用户而言,能感受到操作上的快捷,AI应用与部署更是如虎添翼。未来,MLOps将继续迭代更加丰富的功能,赋能企业AI更快、更好地落地。

审核编辑:彭静
  • 数据
    +关注

    关注

    8

    文章

    4607

    浏览量

    80221
  • AI
    AI
    +关注

    关注

    85

    文章

    20134

    浏览量

    235681
  • 机器学习
    +关注

    关注

    64

    文章

    6280

    浏览量

    120124
  • 星环科技
    +关注

    关注

    0

    文章

    33

    浏览量

    1959
收藏 人收藏

    评论

    相关推荐

    贸泽开售面向AI视觉IoT应用的Renesas RZ/V2L高精度MPU

    2022年7月4日 – 提供超丰富半导体和电子元器件™的业界知名新品引入 (NPI) 分销商贸泽电子....
    发表于 07-05 10:15 23次 阅读
    贸泽开售面向AI视觉IoT应用的Renesas RZ/V2L高精度MPU

    AI技术日趋成熟,开始走进千行百业

    (文/程文智)提到AI,人们最先想到的可能是相机的美颜功能,其实如今的AI技术可以说不仅已经渗透到人....
    的头像 荷叶塘 发表于 07-05 09:22 212次 阅读
    AI技术日趋成熟,开始走进千行百业

    NVIDIA Merlin GPU推荐系统加速大模型训练和推理

    暌违两年,NVIDIA Merlin 推荐系统公开课将于 7 月 5 日全面上新。本次公开课将由 N....
    的头像 NVIDIA英伟达 发表于 07-05 09:02 86次 阅读

    火山引擎机器学习平台与NVIDIA加深合作

    随着 AI 在医疗健康和生命科学领域应用的不断增加,GPU 算力的需求迅猛增长。火山引擎机器学习平台....
    的头像 NVIDIA英伟达 发表于 07-05 08:59 117次 阅读

    人工智能是如何实现教学自动化的

    人工智能与教育系统以人类的知识实践为纽带,两者存在多层次、复杂且密切的相互作用,人工智能应用于教育实....
    的头像 格物斯坦机器人 发表于 07-04 16:52 194次 阅读

    改变设计价值观的人工智能机器人原理

    谈到人工智能,它立即被描述为人类的替代品。但真的是这样吗?虽然毫无疑问,人工智能将改变设计框架,但这....
    的头像 格物斯坦机器人 发表于 07-04 16:48 221次 阅读

    WTK6900H语音识别芯片的简单介绍

    智能家居相信小伙伴们都不陌生,通过AI的语音识别技术,让机器也能听懂人类说话,并且通过命令词执行各种....
    的头像 唯创知音电子 发表于 07-04 14:22 111次 阅读

    如何对静态数据做缓存

    并发读的优化理念是尽量减少用户到服务端来读数据,或者让他们读更少的数据;并发写的处理原则一样,要求我....
    的头像 马哥Linux运维 发表于 07-04 11:34 75次 阅读

    什么是嵌入式机器人及如何使用它们

      人工智能正在为聊天机器人技术注入新的活力。NLP 等工具允许企业使用聊天机器人来改进支持操作并满....
    的头像 星星科技指导员 发表于 07-04 11:03 64次 阅读

    视觉AI开发面向不同领域的应用技术

    电子发烧友网报道(文/李弯弯)视觉AI是人工智能一个子领域,一般也称为计算机视觉,主要方向为模式识别....
    发表于 07-04 10:26 103次 阅读

    通过稀疏支持和Transformer优化增强AI推理以最小化延迟

      许多推理服务在幕后使用诸如 BERT-Large 之类的语言模型。另一方面,基于语言的应用程序通....
    的头像 星星科技指导员 发表于 07-04 09:52 148次 阅读

    开放式编程模型为开发人员创建中间地带

      此外,Acoran 编程模型在优化的、特定领域的库中分层,允许开发人员在特定于设备的优化例程之上....
    的头像 星星科技指导员 发表于 07-04 09:27 74次 阅读
    开放式编程模型为开发人员创建中间地带

    AI产业链中主要的视觉算法企业

    电子发烧友网报道(文/李弯弯)视觉AI是人工智能一个子领域,一般也称为计算机视觉,主要方向为模式识别....
    的头像 Carol Li 发表于 07-04 08:43 530次 阅读
    AI产业链中主要的视觉算法企业

    FIFO最小深度计算的方法

    由于平时我们工作中,FIFO都是直接调用IP核,对于FIFO深度选择并没有很在意,而在笔试面试过程中....
    的头像 FPGA之家 发表于 07-03 17:25 234次 阅读

    Vivado 2022.1的新特性

    Vivado 2022.1已正式发布,今天我们就来看看其中的一个新特性。
    的头像 TeacherGaoFPGAHub 发表于 07-03 17:00 136次 阅读

    如何得到LUT与REG的使用比例

    一、如何得到LUT与REG的使用比例 riple 我们先看一个FPGA工程的编译结果报告: 在这个报....
    的头像 FPGA设计论坛 发表于 07-03 14:54 199次 阅读

    OpenVINO加速多领域AI产业创新发展

    近日,由英特尔举办的2022 OpenVINO DevCon·中国站线上峰会成功落下帷幕。在此次峰会....
    的头像 英特尔中国 发表于 07-03 14:35 341次 阅读

    NVIDIA提供用于AI训练的合成数据生成工具

    提供合成数据生成工具和服务的企业以及开发者现在可以使用 Omniverse Replicator S....
    的头像 NVIDIA英伟达企业解决方案 发表于 07-03 10:06 111次 阅读

    NVIDIA研究人员创建可以疏通计算机网络拥堵的AI模型

    NVIDIA 研究人员创建了可以疏通计算机网络拥堵的 AI 模型,该模型很快就会出现在大众附近的数据....
    的头像 NVIDIA英伟达 发表于 07-03 10:04 110次 阅读

    利用AI技术加强视频内容创作和传播

    芬兰的 MTV Oy 采用由 NVIDIA 技术驱动的 Valossa AI 解决方案自动分析视频内....
    的头像 NVIDIA英伟达 发表于 07-03 09:59 157次 阅读

    广电五舟与华为基于昇腾AI基础软硬件平台打造联合解决方案

    2022年7月1日,广电五舟与华为在广州正式举行“整机伙伴合作协议”签约仪式暨“华为昇腾万里伙伴”授....
    的头像 华为计算 发表于 07-03 09:32 160次 阅读

    智洋创新正式加入华为昇腾万里合作伙伴计划

    2022年6月30日,智洋创新与华为在淄博签署合作协议,正式加入昇腾万里合作伙伴计划。
    的头像 华为计算 发表于 07-03 09:30 180次 阅读

    【ELT.ZIP】OpenHarmony啃论文俱乐部——多维探秘通用无损压缩

    本文出自 ELT.ZIP 团队,ELT<=>Elite(精英),.ZIP为压缩格式,ELT.ZIP即压缩精英。 成员: 上海...
    发表于 07-02 18:17 2478次 阅读

    如何释放可信赖人工智能的最大价值

    IBM商业价值研究院(IBV)研究表明,消费者、公民和员工将人工智能视为帮助解决人类面临的最紧迫挑战....
    的头像 IBM中国 发表于 07-01 17:56 358次 阅读

    维智科技助力品牌营销数智化全面转型升级

    中国领先的产业数字化研究与咨询机构爱分析发布了《2022国央企数字化厂商全景报告》,维智科技凭借出色....
    的头像 WAYZ维智 发表于 07-01 17:53 334次 阅读

    数字硬件建模SystemVerilog-枚举数据类型

    上一节介绍了已经被淘汰的$unit声明空间,今天我们来看看一种重要的数据类型-枚举数据类型。
    的头像 OpenFPGA 发表于 07-01 17:44 282次 阅读

    TensorFlow助力数百万用户推进研究和应用

    近期开展的 Stack Overflow 开发者调查现已揭晓结果,我们欣喜地看到,TensorFlo....
    的头像 谷歌开发者 发表于 07-01 17:42 233次 阅读

    数字硬件建模SystemVerilog的结构体表达式

    结构体用于将多个变量组合在一个通用名称下。设计通常具有逻辑信号组,例如总线协议的控制信号,或状态控制....
    的头像 OpenFPGA 发表于 07-01 17:32 260次 阅读

    如何使用华为云EI产品开发作品

    AI开发平台ModelArts:面向开发者的一站式AI开发平台,提供海量数据预处理、智能标注、大规模....
    的头像 华为开发者社区 发表于 07-01 16:51 197次 阅读

    华为联合打造天津城市智能体 有力推动城市数字化发展

    6月,天津市委网络安全和信息化委员会办公室(以下简称“天津市委网信办”)与华为技术有限公司(以下简称....
    的头像 华为数字中国 发表于 07-01 15:21 287次 阅读

    华为云正式发布初创计划 实现业务转型升级

    创业者是实践创新的实践者与探索者,是推动社会进步与发展的有生力量。
    的头像 华为开发者社区 发表于 07-01 15:09 146次 阅读

    在开发平台上使用VITIS AI加速AI应用

    在运行量化器时,我们可以使用更大的校准图像、迭代和检测来调整输出,视频输入的准确率约为 96%。我们....
    的头像 星星科技指导员 发表于 07-01 14:24 113次 阅读
    在开发平台上使用VITIS AI加速AI应用

    西门子携手英伟达打造工业元宇宙

    嵌入工业虚拟世界中的逼真的、基于物理的数字双胞胎提供了巨大的潜力,通过提供一个人们可以互动和协作解决....
    发表于 07-01 11:53 413次 阅读

    华为云推出高校圈层活动品牌HCSD 共创共享共赢生态体系

    本次活动由华为云计算公司主办,华为(厦⻔)开发者创新应⽤中⼼、厦⻔⼤学信息学院联合举办,旨在携华为云....
    的头像 华为开发者社区 发表于 07-01 11:47 268次 阅读

    NVIDIA Isaac Sim 2022.1版本的亮点及功能

    NVIDIA 宣布推出2022.1 版 NVIDIA Isaac Sim。作为一种机器人仿真和合成数....
    的头像 NVIDIA英伟达企业解决方案 发表于 07-01 11:19 194次 阅读

    计算机视觉与AI技术企业虹软科技发布2022第一季度报告

    计算机视觉与AI技术企业虹软科技股份有限公司发布2022第一季度报告,具体内容如下。 一、 主要财务....
    的头像 汽车玩家 发表于 07-01 11:08 333次 阅读

    NVIDIA AI平台在MLPerf基准测试实现飞跃

    NVIDIA AI 仍是唯一能够运行 MLPerf 行业基准测试中所有测试的平台, A100 GPU....
    的头像 NVIDIA英伟达企业解决方案 发表于 07-01 10:52 156次 阅读

    数据是怎么样保证准确的从客户端发送到服务器端

    你有想过吗,在计算机网络当中,数据是怎么样保证准确的从客户端发送到服务器端的?中间涉及到了哪些理论?
    的头像 马哥Linux运维 发表于 07-01 10:09 157次 阅读

    用于嵌入式系统的Java的优点和缺点

      在嵌入式系统上使用 Java 的优点多于缺点,特别是因为代码的质量和大量已经能够使用 Java ....
    的头像 星星科技指导员 发表于 07-01 10:00 154次 阅读

    人工智能对软件质量保证的影响

      软件 QA 通常被视为任何开发团队的昂贵必需品;测试在时间、人力和金钱方面的成本很高,同时仍然是....
    的头像 星星科技指导员 发表于 07-01 09:49 100次 阅读

    使用TensorBoard进行机器学习模型分析

      总体而言,TensorBoard 是帮助开发和培训过程的绝佳工具。Scalar and Metr....
    的头像 星星科技指导员 发表于 07-01 09:44 94次 阅读
    使用TensorBoard进行机器学习模型分析

    人工智能更高认知的知识构建的数个维度

    知识维度中有两个维度反映了对世界的看法,一个是描述性维度,描述性维度对世界上存在的事物进行了概念性的....
    发表于 07-01 09:25 188次 阅读

    嵌入式边缘AI应用开发简化指南

    Other Parts Discussed in Post: TDA4VM如果在没有嵌入式处理器供应....
    的头像 电子设计 发表于 06-30 17:01 44次 阅读
    嵌入式边缘AI应用开发简化指南

    华为云天筹AI求解器助力高效求得问题最优解

    随着华为运筹优化技术的发展和优化理论的突破,更多创新技术将会落地天筹AI求解器。
    的头像 科技绿洲 发表于 06-30 15:24 279次 阅读

    所托瑞安获得“天津市科学技术进步二等奖”

    近日,36氪发布了《2022年最受投资人关注的硬核科技企业100调研》。据介绍,该榜单是36氪以投资....
    的头像 科技绿洲 发表于 06-30 14:50 1093次 阅读

    MEEP打造HPC生态系统的数字实验室

    种硅前验证将通过提高 RTL 的质量和消除错误来节省大量资金。MEEP 还将​​支持新系统的软件开发....
    的头像 星星科技指导员 发表于 06-30 14:49 130次 阅读
    MEEP打造HPC生态系统的数字实验室

    NVIDIA Morpheus应用框架可实时发现和阻止复杂攻击

    如今,网络安全格局随着威胁与攻击方法的不断变化而变化,使商业世界处于高度戒备状态。通过不断改变攻击技....
    的头像 科技绿洲 发表于 06-30 14:38 271次 阅读
    NVIDIA Morpheus应用框架可实时发现和阻止复杂攻击

    L32F1680B数据

    在某宝买的数据 L32F1680B V8-MS180PL-LF1V005 MT3151A05-....
    发表于 06-30 14:35 23次 阅读

    什么是机器学习? 机器学习基础入门

    本文旨在为硬件和嵌入式工程师提供机器学习(ML)的背景,它是什么,它是如何工作的,它为什么重要,以及 TinyML 是如何适应的...
    发表于 06-21 11:06 617次 阅读
    什么是机器学习? 机器学习基础入门

    【飞控开发基础教程6】疯壳·开源编队无人机-SPI(六轴传感器数据获取)

    COCOFLY教程——疯壳·无人机·系列SPI(六轴传感器数据获取)             &nb...
    发表于 05-30 11:19 1706次 阅读
    【飞控开发基础教程6】疯壳·开源编队无人机-SPI(六轴传感器数据获取)

    机器学习简介与经典机器学习算法人才培养

    上课时间安排: 2022年05月27日 — 2022年05月30日 No.1 第一天 一、机器学习简介与经典机器学习算法介绍 什么是机器学习...
    发表于 04-28 18:56 5044次 阅读

    http request请求不到接口数据是为什么?

    import http from '@ohos.net.http'; export function doList() {     const url     const httpRequ...
    发表于 04-25 10:15 1104次 阅读

    如何解决CAN发送数据发送不出去的问题啊

    在调试CAN,接收数据都没什么问题,但是发送那一块,有的时候rt_device_write的返回值为0,就是没发出去,这个应该怎么解决这...
    发表于 04-20 09:22 1699次 阅读

    请问FINSH是否具备输入/输出换向功能?

    有时候需要FINSH把接收到的数据保存到本地文件中,有时候需要从本地文件中导入输入命令或数据,FINSH是否有这个功能 ?...
    发表于 04-18 09:22 1371次 阅读

    如何获取bh1750软件包bh1750.c文件的光照强度数据?

    请问怎么将bh1750软件包2.0里的bh1750_read_light是光强的数据吗?(onenet_mqtt_upload_string("light", 这里应该是什么) < ...
    发表于 04-06 09:35 912次 阅读

    浅谈模拟在机器学习领域的重要性

    电子设计行业正在发生相当大的变化,这主要是由于传感器的激增以及生成和收集更多信息的需求。这导致拥有更多传感器,并且这些传...
    发表于 03-28 15:15 1259次 阅读

    ListContainer代码获取高度不准怎么解决?

    int listContainerHeight = listContainer.getHeight(); 通过这个方法获得的方法,返回的数据和实际数据不一样, 有类似...
    发表于 03-23 10:19 647次 阅读