0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

现代化机器学习工具,有助于数据科学开展更多工程功能

如意 来源: 云智小号 作者: 云智小号 2020-07-06 10:11 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

数据科学的发展日新月异,机器学习的角色正从数据科学的混合角色过渡到更多的工程或面相分析的角色,主要是以下的因素促成了这种变化。

1.机器学习模型更多地被应用到生产系统中,需要数据科学家具有比以前更深入的技术技能。

2.商业产品和用户行为的变化步伐加快,对自动化的需求也增加。

3.还有出于数据合规和监管的要求,增加了对数据的可追溯性和可解释性的预测和决策的需求。

这些变化的因素也导致了数据科学家使用的工具发生了变化。使得他们更多地利用云,自动化,可解释性和可重复过程的方向去发展。

基于云的机器学习。云基础架构和Kubernetes改变了数据科学家进行机器学习的方式。从能够将预构建的解决方案用作Saas应用程序,到能够在Kubernetes上运行完整的机器学习堆栈。

AutoML和编排。AutoML简化了训练模型,提供了一种自动的方法来进行数据准备,特征工程,超参数优化或模型的选择。

可解释且可重复的ML。在过去几年中,出现了一些库和工具来帮助理解模型预测及其背后的权重并赋予其含义。如whatiftools,Lime,Shap或Manifold之类的工具可以帮助数据科学家来实现这一目标。

基于云的机器学习

向云和Kubernetes的迁移是时下的主流方向,这推动了机器学习工程师对更多DevOps或数据操作功能的需求。

深度学习的快速发展推动了机器学习的进步,但深度学习需要更多的计算资源,它的利用率随工作负载变化很大,这迫使Tensorflow执行程序在Kubernetes上运行来支持更弹性和可扩展的基础架构。

另一个因素是机器学习在生产环境中的重要性日益提高。这种转变又增加了在原型堆栈和生产之间紧密结合的需求,并借助各种云的平台,比如AWS SageMaker、Google Cloud ML Engine。这些工具提供了如模型部署和API配置之类的功能,从而简化了流程将模型推向生产的过程。

AutoML和机器学习工作流程

具有生产型机器学习系统的重要性的提高反过来加速了从培训到部署的整个机器学习价值链对自动化的需求。自动化允许更快地迭代和改进模型。

AutoML提供了围绕模型训练过程的自动化层,可以处理其一些重复的任务。它可以处理如超参数优化,功能和模型选择之类的任务。现在,像Tpot或AutoKeras之类的库,以及大多数云提供商的机器学习即服务都将AutoML作为其解决方案的一部分。

对自动化的需求也增加了对工具进行编排的不同部分的需求。工作流工具如,Airflow,Kubeflow,MLFlow和MetaFlow是用于帮助实现这一目标的一些关键工具。他们负责将整个机器学习过程作为一条流水线来处理,帮助协调从数据采集到模型服务的端到端流程。

可解释且可重复的ML

合规和监管影响了我们构建机器学习模型的方式。他们推动了可解释和可复制的模型。

在可解释的方面,已经出现了一系列工具,可以帮助数据科学家从其模型中获得意义。这些工具评估不同的方案,分析变量如何互操作,并提供仪表板以帮助解释模型预测。whatiftools,Lime,Shap或Manifold是应对这一挑战的工具。

除了提供可靠的方法来调试模型的优点外,可复制性是受法规影响的另一个方面。总有可能使用工作流工具创建可重复的机器学习管道,但仍出现了一些特定的工具来简化这个过程。

DVC,Dolt,Weight and Biases(WANDB)和Dags Hub等是一些专门的工具,使构建模型,可重复的方式更简单。DVC负责模型和数据集的版本控制,而Dolt严格限于数据集本身。WANDB和Dags Hub则专注于跟踪模型构建/训练的权重和结果。

总结

机器学习工具,已经不仅仅局限于利用一些预测库和Jupyter笔记本。现在,进行数据科学需要掌握更广泛的工具集,其中包括云,工作流工具,解释和版本控制工具。这些增加的现代化工具应有助于数据科学开展更多的工程或业务功能。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 机器学习
    +关注

    关注

    66

    文章

    8541

    浏览量

    136236
  • 现代化
    +关注

    关注

    0

    文章

    18

    浏览量

    6789
  • 数据科学
    +关注

    关注

    0

    文章

    168

    浏览量

    10749
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    Cadence电子设计仿真工具标准搭载村田制作所的产品数据

    的选项较以往进一步增多,从而有助于推动电路设计的高阶。   注释 (1) EDA 工具:电子设计自动(Electronic Design Automation)
    的头像 发表于 10-21 11:31 1841次阅读

    Analog Devices发布ADI Power Studio™和网页端新工具 简化电源管理设计和优化

    ADI Power Studio将多种ADI工具整合成一个完整的产品系列,助力简化电源管理设计和优化工作。 ADI Power Studio Planner工具有助于增强系统级电源树规划。 ADI
    的头像 发表于 10-15 11:08 4.2w次阅读

    新型 PLC 有助于加快复杂和关键自动流程的部署速度

    作者:Jeff Shepard 投稿人:DigiKey 北美编辑 新型可编程逻辑控制器 (PLC) 集先进功能和灵活性于一体,能够快速开发和部署复杂的关键基础设施和自动流程。 对于从可再生能源和微
    的头像 发表于 10-03 17:41 1403次阅读
    新型 PLC <b class='flag-5'>有助于</b>加快复杂和关键自动<b class='flag-5'>化</b>流程的部署速度

    NetApp助力对象存储现代化,提升速度、可扩展性和安全性

    计。最新版本的StorageGRID将引入新功能,旨在推进人工智能计划、提高数据安全性并实现企业数据基础设施的现代化。 无论企业是处于数据
    的头像 发表于 09-11 10:41 325次阅读

    大模型真的有助于自动驾驶落地吗?

    其实大模型带来的并不是单一的“万能解”,而是一个能够显著提升认知、生成和推理能力的新工具箱。它能加速数据闭环、提升对复杂场景的理解、改善人机交互、并在工程流程中提高效率。
    的头像 发表于 08-16 09:43 889次阅读
    大模型真的<b class='flag-5'>有助于</b>自动驾驶落地吗?

    微型气象站系统:为智慧气象建设和应急管理体系现代化提供关键技术支撑

    微型气象站系统:为智慧气象建设和应急管理体系现代化提供关键技术支撑【WX-PQX6】不仅简化了传统气象监测流程、降低了成本,更通过云平台数据管理(支持多设备登录、曲线分析、数据导出)和远程监控
    的头像 发表于 08-13 14:47 508次阅读
    微型气象站系统:为智慧气象建设和应急管理体系<b class='flag-5'>现代化</b>提供关键技术支撑

    现代化智慧农业四情监测设备方案

    现代化智慧农业四情监测设备方案 柏峰【BF-NYSQ】强农固本,为推进中国式现代化提供基础支撑,农稳社稷,粮安天下。强化耕地保护和质量提升、推进农业科技力量,全方位夯实国家粮食安全根基,坚持产量产能、生产生态、增产增收一起抓,切实提高农业综合效益和竞争力。
    的头像 发表于 08-01 10:11 594次阅读
    <b class='flag-5'>现代化</b>智慧农业四情监测设备方案

    任正非说 AI已经确定是第四次工业革命 那么如何从容地加入进来呢?

    在神经网络的计算中广泛应用,理解矩阵乘法、特征值和特征向量等概念有助于深入掌握深度学习模型的工作原理。 掌握编程语言,如Python和R。Python有丰富的AI库,如NumPy、Pandas用于数据
    发表于 07-08 17:44

    广电计量助力广州现代化产业体系高质量发展

    总经理于莉莉出席活动并作主题演讲,分享检验检测助力企业数智融合发展的经验,广电计量入选广州市首批两业融合优秀案例,助力广州现代化产业体系高质量发展。
    的头像 发表于 06-12 17:11 756次阅读

    山东LP-SCADA故障回溯功能的好处

    工业自动领域,故障处理不仅关乎当前的修复工作,还涉及到未来的预防和维护策略。本平台的故障回溯功能为决策者提供了丰富的历史数据和分析结果,有助于制定更加
    发表于 05-29 14:42

    机场智慧指路灯杆

    、调整服务策略提供依据,有助于机场进行科学的规划和管理。 塑造形象 :智能指路机器人是机场智能建设的重要体现,展示了机场的科技实力和创新精神,有助
    发表于 05-10 18:24

    **【技术干货】Nordic nRF54系列芯片:传感器数据采集与AI机器学习的完美结合**

    更多外设接口。无论是运行还是休眠状态,功耗表现都非常出色! 3. 在传感器数据采集与AI机器学习中的优势? 答:主频高、功耗低,内置专用核处理数据
    发表于 04-01 00:00

    DXC实现全球IT基础设施现代化

    (纽约证券交易所:DXC)与跨国建筑和项目开发领先企业Skanska AB签署了一项协议,对Skanska的IT基础设施进行现代化改造。 双方合作将有助于提高Skanska在欧洲和美国的业务运营效率。 DXC
    的头像 发表于 02-26 11:41 536次阅读
    DXC实现全球IT基础设施<b class='flag-5'>现代化</b>

    当路灯开始“思考”:现代化智慧路灯的奇妙变革灯杆屏 智慧灯杆屏

    当路灯开始“思考”:现代化智慧路灯的奇妙变革灯杆屏 智慧灯杆屏
    的头像 发表于 02-19 14:08 828次阅读
    当路灯开始“思考”:<b class='flag-5'>现代化</b>智慧路灯的奇妙变革灯杆屏 智慧灯杆屏

    南方智能构建现代化水库运行管理矩阵

    南方测绘集团旗下南方智能积极落实水利部构建现代化水库运行管理矩阵工作部署,以水库运行管理实际业务需求为导向,利用数字孪生、物联网、大数据、云计算等技术,深度融合水库现有各类监测数据、运行台账等
    的头像 发表于 12-13 10:36 1089次阅读