0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

干货:直观地解释和可视化每个复杂的 DataFrame 操作

电子设计 来源:电子设计 作者:电子设计 2020-12-14 21:40 次阅读
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

大多数数据科学家可能会赞扬Pandas进行数据准备的能力,但许多人可能无法利用所有这些能力。操作数据帧可能很快会成为一项复杂的任务,因此在Pandas中的八种技术中均提供了说明,可视化,代码和技巧来记住如何做。

Pandas提供了各种各样的DataFrame操作,但是其中许多操作很复杂,而且似乎不太平易近人。本文介绍了8种基本的DataFrame操作方法,它们涵盖了数据科学家需要知道的几乎所有操作功能。每种方法都将包括说明,可视化,代码以及记住它的技巧。

Pivot

透视表将创建一个新的“透视表”,该透视表将数据中的现有列投影为新表的元素,包括索引,列和值。初始DataFrame中将成为索引的列,并且这些列显示为唯一值,而这两列的组合将显示为值。这意味着Pivot无法处理重复的值。

旋转名为df的DataFrame的代码如下:

记住:Pivot——是在数据处理领域之外——围绕某种对象的转向。在体育运动中,人们可以绕着脚“旋转”旋转:大熊猫的旋转类似于。原始DataFrame的状态围绕DataFrame的中心元素旋转到一个新元素。有些元素实际上是在旋转或变换的(例如,列“bar”),因此很重要。

Melt

Melt可以被认为是“不可透视的”,因为它将基于矩阵的数据(具有二维)转换为基于列表的数据(列表示值,行表示唯一的数据点),而枢轴则相反。考虑一个二维矩阵,其一维为“B”和“C”(列名),另一维为“a”,“b”和“c”(行索引)。

我们选择一个ID,一个维度和一个包含值的列/列。包含值的列将转换为两列:一列用于变量(值列的名称),另一列用于值(变量中包含的数字)。

结果是ID列的值(a,b,c)和值列(B,C)及其对应值的每种组合,以列表格式组织。

可以像在DataFramedf上一样执行Mels操作:

记住:像蜡烛一样融化(Melt)就是将凝固的复合物体变成几个更小的单个元素(蜡滴)。融合二维DataFrame可以解压缩其固化的结构并将其片段记录为列表中的各个条目。

Explode

是一种摆脱数据列表的有用方法。当一列爆炸时,其中的所有列表将作为新行列在同一索引下(为防止发生这种情况,此后只需调用.reset/_index()即可)。诸如字符串或数字之类的非列表项不受影响,空列表是NaN值(您可以使用.dropna()清除它们)。

在DataFramedf中Explode列“A”非常简单:

要记住:Explode某物会释放其所有内部内容-Explode列表会分隔其元素。

Stack

堆叠采用任意大小的DataFrame,并将列“堆叠”为现有索引的子索引。因此,所得的DataFrame仅具有一列和两级索引。

堆叠名为df的表就像df.stack()一样简单。

为了访问狗的身高值,只需两次调用基于索引的检索,例如df.loc ['dog']。loc ['height']。

要记住:从外观上看,堆栈采用表的二维性并将列堆栈为多级索引。

Unstack

取消堆叠将获取多索引DataFrame并对其进行堆叠,将指定级别的索引转换为具有相应值的新DataFrame的列。在表上调用堆栈后再调用堆栈不会更改该堆栈(原因是存在“0”)。

堆叠中的参数是其级别。在列表索引中,索引为-1将返回最后一个元素。这与水平相同。级别-1表示将取消堆叠最后一个索引级别(最右边的一个)。作为另一个示例,当级别设置为0(第一个索引级别)时,其中的值将成为列,而随后的索引级别(第二个索引级别)将成为转换后的DataFrame的索引。

可以按照与堆叠相同的方式执行堆叠,但是要使用level参数:df.unstack(level = -1)。

Merge

合并两个DataFrame是在共享的“键”之间按列(水平)组合它们。此键允许将表合并,即使它们的排序方式不一样。完成的合并DataFrame默认情况下会将后缀/_x和/_y添加到value列。

为了合并两个DataFramedf1和df2(其中df1包含leftkey,而df2包含rightkey),请调用:

合并不是pandas的功能,而是附加到DataFrame。始终假定合并所在的DataFrame是“左表”,在函数中作为参数调用的DataFrame是“右表”,并带有相应的键。

默认情况下,合并功能执行内部联接:如果每个DataFrame的键名均未列在另一个键中,则该键不包含在合并的DataFrame中。另一方面,如果一个键在同一DataFrame中列出两次,则在合并表中将列出同一键的每个值组合。例如,如果df1具有3个键foo值,而df2具有2个相同键的值,则在最终DataFrame中将有6个条目,其中leftkey = foo和rightkey = foo。

记住:合并数据帧就像在水平行驶时合并车道一样。想象一下,每一列都是高速公路上的一条车道。为了合并,它们必须水平合并。

Join

通常,联接比合并更可取,因为它具有更简洁的语法,并且在水平连接两个DataFrame时具有更大的可能性。连接的语法如下:

使用联接时,公共键列(类似于合并中的right/_on和left/_on)必须命名为相同的名称。how参数是一个字符串,它表示四种连接方法之一,可以合并两个DataFrame:

'left':包括df1的所有元素,仅当其键为df1的键时才包含df2的元素。否则,df2的合并DataFrame的丢失部分将被标记为NaN。

'right':'left',但在另一个DataFrame上。包括df2的所有元素,仅当其键是df2的键时才包含df1的元素。

“outer”:包括来自DataFrames所有元素,即使密钥不存在于其他的-缺少的元素被标记为NaN的。

“inner”:仅包含元件的键是存在于两个数据帧键(交集)。默认合并。

记住:如果您使用过SQL,则单词“ join”应立即与按列添加相联系。如果不是,则“ join”和“ merge”在定义方面具有非常相似的含义。

Concat

合并和连接是水平工作,串联或简称为concat,而DataFrame是按行(垂直)连接的。例如,考虑使用pandas.concat([df1,df2])串联的具有相同列名的两个DataFramedf1和df2:

尽管可以通过将axis参数设置为1来使用concat进行列式联接,但是使用联接会更容易。

请注意,concat是pandas函数,而不是DataFrame之一。因此,它接受要连接的DataFrame列表。

如果一个DataFrame的另一列未包含,默认情况下将包含该列,缺失值列为NaN。为了防止这种情况,请添加一个附加参数join ='inner',该参数只会串联两个DataFrame共有的列。

切记:在列表和字符串中,可以串联其他项。串联是将附加元素附加到现有主体上,而不是添加新信息(就像逐列联接一样)。由于每个索引/行都是一个单独的项目,因此串联将其他项目添加到DataFrame中,这可以看作是行的列表。

Append是组合两个DataFrame的另一种方法,但它执行的功能与concat相同,效率较低且用途广泛。

-

审核编辑 黄昊宇

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 数据
    +关注

    关注

    8

    文章

    7317

    浏览量

    94052
收藏 人收藏
加入交流群
微信小助手二维码

扫码添加小助手

加入工程师交流群

    评论

    相关推荐
    热点推荐

    工业可视化平台是什么

    工业可视化平台是一种基于信息技术和可视化技术,将工业生产过程中的数据、信息、流程等以直观、动态的图形方式呈现,并实现交互式管理与分析的数字化工具。它通过整合工业物联网(IIoT)、大
    的头像 发表于 10-24 18:00 863次阅读

    光伏电站可视化的实现

    实现光伏电站可视化,核心是在于通过直观的视觉界面,解决传统运维中低效巡检、数据孤岛、被动响应等痛点,从而提升运营效率并提供决策支持。这是一种有效的技术手段,通过数字孪生、三维建模、数据融合等技术
    的头像 发表于 10-21 17:29 883次阅读
    光伏电站<b class='flag-5'>可视化</b>的实现

    一文读懂 | 晶圆图Wafer Maps:半导体数据可视化的核心工具

    在精密复杂的半导体制造领域,海量数据的有效解读是提升产能、优化良率的关键。数据可视化技术通过直观呈现信息,帮助工程师快速识别问题、分析规律,而晶圆图正是这一领域中最具影响力的可视化工具
    的头像 发表于 08-19 13:47 1916次阅读
    一文读懂 | 晶圆图Wafer Maps:半导体数据<b class='flag-5'>可视化</b>的核心工具

    开关柜防误可视化顺控操作为什么有必要做?

    蜀瑞创新科普:开关柜防误可视化顺控操作(通常指基于可视化技术的顺序控制防误操作)即使在已有传统五防系统的基础上,仍然具有重要的现实意义和必要性,主要原因如下:
    的头像 发表于 05-29 09:22 430次阅读
    开关柜防误<b class='flag-5'>可视化</b>顺控<b class='flag-5'>操作</b>为什么有必要做?

    工业设备可视化管理系统是什么

    工业设备可视化管理系统是一种基于物联网(IoT)、大数据、云计算、数字孪生等技术,对工业设备的运行状态、性能参数、维护信息等进行实时监测、数据整合与可视化呈现的智能管理平台。它通过将复杂的设备数据
    的头像 发表于 05-27 14:56 750次阅读
    工业设备<b class='flag-5'>可视化</b>管理系统是什么

    工业设备数据集中监控可视化管理平台是什么

    工业设备数据集中监控可视化管理平台是一种用于整合、监控和可视化工业设备数据的综合性系统,旨在帮助企业实现设备数据的集中管理、实时监控和可视化展示,从而提升生产效率、优化设备运行状态并支持决策制定
    的头像 发表于 05-06 11:10 851次阅读

    VirtualLab Fusion应用:3D系统可视化

    描述和F-Theta透镜的应用示例。 光学系统的3D-可视化 VirtualLab Fusion提供的工具可以实现光学系统的3D可视化,因此可以用于检查元件的位置,以及快速了解系统内部的光传播情况
    发表于 04-30 08:47

    可视化组态物联网平台是什么

    可视化含义:组态是一种用于构建复杂物联网系统的工具,它提供了丰富的图形组件和可视化元素,使得用户可以通过简单的拖拽操作来创建自定义的界面。
    的头像 发表于 04-21 10:40 715次阅读

    可视化数据大屏:连线构建视觉新秩序 #数据可视化 #可视化大屏

    可视化
    阿梨是苹果
    发布于 :2025年03月18日 16:12:04

    工业可视化监控平台可以接入哪些设备数据

    随着工业 4.0 和智能制造的快速发展,工业生产正朝着数字、智能方向迈进。在这一进程中,工业可视化监控平台发挥着举足轻重的作用。它就像是工业生产的 “智慧大脑” 和 “千里眼”,能够将复杂
    的头像 发表于 02-25 16:29 653次阅读
    工业<b class='flag-5'>可视化</b>监控平台可以接入哪些设备数据

    VirtualLab Fusion中的可视化设置

    摘要 VirtualLab Fusion中的全局选项对话框可以轻松定制软件的外观和感觉。还可以保存和加载全局选项文件,以便可以轻松地将偏好设置从一个设备转移到另一个设备。本文档说明了与可视化和结果
    发表于 02-25 08:51

    VirtualLab Fusion应用:光波导k域布局可视化(“神奇的圆环”)

    特定光波导布局的光导和耦合条件。 概念 方向转换器计算器 可以通过“开始”>“计算器”找到方向转换器计算器,这有助于演示指定角度的不同方式。 k域可视化 k域可视化:平面波的传播
    发表于 02-21 08:53

    七款经久不衰的数据可视化工具!

    数据量的激增,单纯通过数字和文本来分析数据已不再高效。数据可视化则提供了一种直观、互动性强的方式,帮助人们通过视觉元素,如柱状图、折线图、饼图、热力图等图表形式,理解复杂的数据关系。 二、数据
    发表于 01-19 15:24

    光学系统的3D可视化

    **摘要 ** 为了从根本上了解光学系统的特性,对其组件进行可视化并显示光的传播情况大有帮助。为此,VirtualLab Fusion 提供了显示光学系统三维可视化的工具。这些工具还可用于检查元件
    发表于 01-06 08:53

    LambdaTest发布新一代SmartUI,重塑可视化测试体验

    升级,旨在彻底改变传统的可视化测试工作流程,让测试过程变得更加无缝、直观且高效。通过引入一系列创新功能和优化界面设计,LambdaTest的新一代SmartUI为用户提供了一个更加简洁明了的操作环境,使得测试人员能够更轻松地执行
    的头像 发表于 01-02 13:56 727次阅读