百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 热门文章 > 正文

8 个例子帮你快速掌握 Pandas 索引操作

bigegpt 2024-10-23 08:51 2 浏览

如果您使用Python作为数据处理的语言,那么pandas很可能是你代码中使用最多的库之一。pandas的关键数据结构是DataFrame,这是一个类似电子表格的数据表,由行和列组成。在处理dataframe时,我们经常需要处理索引,这可能很棘手。在本文中,让我们回顾一些关于用pandas处理索引的技巧。

在读取时指定索引列

在许多情况下,我们的数据源是一个CSV文件。假设我们有一个名为data.csv的文件,它有以下数据。

date,temperature,humidity
07/01/21,95,50
07/02/21,94,55
07/03/21,94,56

默认情况下,pandas将为我们创建一个基于0的索引,如下所示。

>>> pd.read_csv("data.csv", parse_dates=["date"])
date temperature humidity
0 2021-07-01 95 50
1 2021-07-02 94 55
2 2021-07-03 94 56

我们可以在导入过程中通过将index_col参数设置为适用的列来直接指定索引列。

>>> pd.read_csv("data.csv", parse_dates=["date"], index_col="date")
temperature humidity
date 
2021-07-01 95 50
2021-07-02 94 55
2021-07-03 94 56

DataFrame中设置索引

读取数据或其他一些数据处理步骤后,您可能希望手动设置索引。我们可以使用set_index方法。

>>> df = pd.read_csv("data.csv", parse_dates=["date"])
>>> df.set_index("date")
temperature humidity
date 
2021-07-01 95 50
2021-07-02 94 55
2021-07-03 94 56

在此方法中,将指定哪些列作为新索引。这里有两件事值得注意。

默认情况下,此方法将创建一个新的DataFrame。如果你想改变索引的位置,你运行df.set_index(“date”, inplace=True)。

如果希望设置索引后列还存在,可以运行df.set_index(“date”, drop=False)。

>>> df.set_index("date", drop=False)
date temperature humidity
date 
2021-07-01 2021-07-01 95 50
2021-07-02 2021-07-02 94 55
2021-07-03 2021-07-03 94 56

在一些操作后重置索引

在处理DataFrame时,一些操作(如删除行、索引选择)将生成原始索引的子集。要重新生成连续索引,可以使用reset_index方法。

>>> df0 = pd.DataFrame(np.random.rand(5, 3), columns=list("ABC"))
>>> df0
A B C
0 0.548012 0.288583 0.734276
1 0.342895 0.207917 0.995485
2 0.378794 0.160913 0.971951
3 0.039738 0.008414 0.226510
4 0.581093 0.750331 0.133022
>>> df1 = df0[df0.index % 2 == 0]
>>> df1
A B C
0 0.548012 0.288583 0.734276
2 0.378794 0.160913 0.971951
4 0.581093 0.750331 0.133022
>>> df1.reset_index(drop=True)
A B C
0 0.548012 0.288583 0.734276
1 0.378794 0.160913 0.971951
2 0.581093 0.750331 0.133022

通常,我们不需要保留旧索引,因此我们希望将drop参数设置为True,这意味着该操作将删除旧索引。类似地,如果你想重置索引,不要忘记将inplace参数设置为True,否则将创建一个新的DataFrame。

将索引从groupby操作转换为列

分组是最常用的方法,让我们通过添加分组列来继续使用在上一步中创建的df0 。

>>> df0["team"] = ["X", "X", "Y", "Y", "Y"]
>>> df0
A B C team
0 0.548012 0.288583 0.734276 X
1 0.342895 0.207917 0.995485 X
2 0.378794 0.160913 0.971951 Y
3 0.039738 0.008414 0.226510 Y
4 0.581093 0.750331 0.133022 Y
>>> df0.groupby("team").mean()
A B C
team 
X 0.445453 0.248250 0.864881
Y 0.333208 0.306553 0.443828

使用分组变量和列作为索引,分组操作后创建的DataFrame就不是您需要的DataFrame了。但是你可能希望这些索引是列。有两种方法可以完成所需的操作,如下所示。就我个人而言,我更喜欢第二种方法,它只涉及两个步骤。

>>> df0.groupby("team").mean().reset_index()
team A B C
0 X 0.445453 0.248250 0.864881
1 Y 0.333208 0.306553 0.443828
>>> df0.groupby("team", as_index=False).mean()
team A B C
0 X 0.445453 0.248250 0.864881
1 Y 0.333208 0.306553 0.443828

排序后重置索引

排序是数据处理过程中非常常见的操作。 当我们对行进行排序时,默认情况下,这些行将保留它们各自的索引。 但是,这可能不是所需的行为。 如果要在排序后重置索引,只需在 sort_values 方法中设置 ignore_index 参数即可。

>>> df0.sort_values("A")
A B C team
3 0.039738 0.008414 0.226510 Y
1 0.342895 0.207917 0.995485 X
2 0.378794 0.160913 0.971951 Y
0 0.548012 0.288583 0.734276 X
4 0.581093 0.750331 0.133022 Y
>>> df0.sort_values("A", ignore_index=True)
A B C team
0 0.039738 0.008414 0.226510 Y
1 0.342895 0.207917 0.995485 X
2 0.378794 0.160913 0.971951 Y
3 0.548012 0.288583 0.734276 X
4 0.581093 0.750331 0.133022 Y

删除重复项后重置索引

当我们处理现实生活中的数据集时,经常会出现重复记录的情况。因此,我们需要删除这些副本。在删除之后,我们还希望索引按所需的顺序排列。使用类似的方法,我们可以利用drop_duplicates方法中的ignore_index参数。

为了简单起见,让我们假设每个team只有一个df0 记录。

>>> df0
A B C team
0 0.548012 0.288583 0.734276 X
1 0.342895 0.207917 0.995485 X
2 0.378794 0.160913 0.971951 Y
3 0.039738 0.008414 0.226510 Y
4 0.581093 0.750331 0.133022 Y
>>> df0.drop_duplicates("team", ignore_index=True)
A B C team
0 0.548012 0.288583 0.734276 X
1 0.378794 0.160913 0.971951 Y

如上所示,在“team”列删除重复项之后,每个团队只有第一条记录保存在生成的DataFrame中。重要的是,因为我们将ignore_index设置为True,所以新的DataFrame以基于0的方式使用一组新的索引。

索引的直接赋值

当有一个现有的DataFrame时,可能需要使用不同的数据源或来自单独的操作来分配索引。在这种情况下,可以直接将索引分配给现有的DataFrame。

>>> better_index = ["X1", "X2", "Y1", "Y2", "Y3"]
>>> df0.index = better_index
>>> df0
A B C team
X1 0.548012 0.288583 0.734276 X
X2 0.342895 0.207917 0.995485 X
Y1 0.378794 0.160913 0.971951 Y
Y2 0.039738 0.008414 0.226510 Y
Y3 0.581093 0.750331 0.133022 Y

写入CSV文件时忽略索引

并不是每个人都使用Python或pandas,所以我们经常需要将数据导出到CSV文件。在许多情况下,DataFrame具有基于0的索引。但是,我们不想在导出的CSV文件中包含它。在本例中,我们可以在to_csv方法中设置索引参数。

>>> df0.to_csv("exported_file.csv", index=False)

导出的CSV文件如下所示。文件中没有包含索引列。

总结

在本文中,我们回顾了在pandas中最常见的索引操作。熟悉它们对你处理pandas的数据非常有帮助。当然,我没有讨论MultiIndex,这可以在以后的文章中讨论。

作者:Yong Cui

相关推荐

Docker篇(二):Docker实战,命令解析

大家好,我是杰哥上周我们通过几个问题,让大家对于Docker有了一个全局的认识。然而,说跟练往往是两个概念。从学习的角度来说,理论知识的学习,往往只是第一步,只有经过实战,才能真正掌握一门技术所以,本...

docker学习笔记——安装和基本操作

今天学习了docker的基本知识,记录一下docker的安装步骤和基本命令(以CentOS7.x为例)一、安装docker的步骤:1.yuminstall-yyum-utils2.yum-con...

不可错过的Docker完整笔记(dockerhib)

简介一、Docker简介Docker是一个开源的应用容器引擎,基于Go语言并遵从Apache2.0协议开源。Docker可以让开发者打包他们的应用以及依赖包到一个轻量级、可移植的容器中,...

扔掉运营商的 IPTV 机顶盒,全屋全设备畅看 IPTV!

其实现在看电视节目的需求确实大大降低了,折腾也只是为了单纯的让它实现,享受这个过程带来的快乐而已,哈哈!预期构想家里所有设备直接接入网络随时接收并播放IPTV直播(电信点播的节目不是太多,但好在非常稳...

第五节 Docker 入门实践:从 Hello World 到容器操作

一、Docker容器基础运行(一)单次命令执行通过dockerrun命令可以直接在容器中执行指定命令,这是体验Docker最快捷的方式:#在ubuntu:15.10容器中执行ech...

替代Docker build的Buildah简单介绍

Buildah是用于通过较低级别的coreutils接口构建OCI兼容镜像的工具。与Podman相似,Buildah不依赖于Docker或CRI-O之类的守护程序,并且不需要root特权。Builda...

Docker 命令大全(docker命令大全记录表)

容器生命周期管理run-创建并启动一个新的容器。start/stop/restart-这些命令主要用于启动、停止和重启容器。kill-立即终止一个或多个正在运行的容器rm-于删除一个或...

docker常用指令及安装rabbitMQ(docker安装rabbitmq配置环境)

一、docker常用指令启动docker:systemctlstartdocker停止docker:systemctlstopdocker重启docker:systemctlrestart...

使用Docker快速部署Storm环境(docker部署confluence)

Storm的部署虽然不是特别麻烦,但是在生产环境中,为了提高部署效率,方便管理维护,使用Docker来统一管理部署是一个不错的选择。下面是我开源的一个新的项目,一个配置好了storm与mono环境的D...

Docker Desktop安装使用指南:零基础教程

在之前的文章中,我多次提到使用Docker来安装各类软件,尤其是开源软件应用。鉴于不少读者对此有需求,我决定专门制作一期关于Docker安装与使用的详细教程。我主要以Macbook(Mac平台)为例进...

Linux如何成功地离线安装docker(linux离线安装httpd)

系统环境:Redhat7.2和Centos7.4实测成功近期因项目需要用docker,所以记录一些相关知识,由于生产环境是不能直接连接互联网,尝试在linux中离线安装docker。步骤1.下载...

Docker 类面试题(常见问题)(docker面试题目)

Docker常见问题汇总镜像相关1、如何批量清理临时镜像文件?可以使用sudodockerrmi$(sudodockerimages-q-fdanging=true)命令2、如何查看...

面试官:你知道Dubbo怎么优雅上下线的吗?你:优雅上下线是啥?

最近无论是校招还是社招,都进行的如火如荼,我也承担了很多的面试工作,在一次面试过程中,和候选人聊了一些关于Dubbo的知识。Dubbo是一个比较著名的RPC框架,很多人对于他的一些网络通信、通信协议、...

【Docker 新手入门指南】第五章:Hello Word

适合人群:完全零基础新手|学习目标:30分钟掌握Docker核心操作一、准备工作:先确认是否安装成功打开终端(Windows用户用PowerShell或GitBash),输入:docker--...

松勤软件测试:详解Docker,如何用portainer管理Docker容器

镜像管理搜索镜像dockersearch镜像名称拉取镜像dockerpullname[:tag]列出镜像dockerimages删除镜像dockerrmiimage名称或id删除...