数据处理进阶pandas入门(六) pandas 数据处理
bigegpt 2024-10-23 08:53 5 浏览
回顾
在数据处理进阶pandas入门(五)中,我们介绍了pandas中DataFrame的索引和切片的相关知识,对行索引和列索引的用法和差别做了比较。今天我们来看一下DataFrame的一些特性和使用技巧功能。
通过head()和tail()查看DataFrame数据
head()函数和tail()函数的用法与查看Series数据时一样,只是对于DataFrame,它们查看的是DataFrame的行。?
import numpy as np import pandas as pd data = np.random.rand(300).reshape(50, 6) * 100 df = pd.DataFrame(data) print(df.head()) print("---------------") print(df.head(2)) print("---------------") print(df.tail()) print("---------------") print(df.tail(3))
head()函数和tail()函数分别查看DataFrame的前几行和最后几行,当不传参数时,默认为前5行和后5行,想看指定行数时,传入对应数字即可。运行结果如下所示。
DataFrame的转置
对于DataFrame数据的查看,我们并不总是只想查看前几行或后几行,有时候我们想要查看前几列或后几列,这时可以利用DataFrame的转置,将原来的列变成行,再对转置后的DataFrame使用head()函数和tail()函数就可以顺利查看原DataFrame的前几列或后几列了。
由于DataFrame在结构上类似于NumPy的二维ndarray,可以将它当矩阵进行转置处理,DataFrame也拥有“T”属性用于转置,基本用法如下。?
import numpy as np import pandas as pd data = np.random.rand(24).reshape(4, 6) * 100 df = pd.DataFrame(data, columns=list('abcdef')) print(df) print("---------------") print(df.T)
使用“T”属性对DataFrame进行转置,结果生成一个新的DataFrame,并不改变原DataFrame。转置后相当于对原DataFrame的行和列做了交换,运行结果如下所示。
对转置后的DataFrame使用head()函数和tail()函数就可以顺利查看原DataFrame的前几列和后几列了。 ?
import numpy as np import pandas as pd data = np.random.rand(24).reshape(4, 6) * 100 df = pd.DataFrame(data, columns=list('abcdef')) print(df) print("---------------") df_T = df.T print(df_T.head(2)) print("---------------") # 对结果再做一次转置可得到原DataFrame的列的形式 print(df_T.tail(3).T)
虽然这种方法本质上查看的是转置后DataFrame的行,但其实我们顺利得到了原DataFrame的列。若要保持原DataFrame列的形式,只需要对查看转置后DataFrame的数据再做一次转置即可。上述代码中,我们在获取转置后DataFrame的最后3行后对其进行转置,结果就像是获取了原DataFrame的最后3列一样。运行结果如下所示。
DataFrame的添加和修改
DataFrame的添加和修改基于DataFrame的索引,分别使用DataFrame[]和loc[]或iloc[]对DataFrame的列和行进行添加和修改,对于原DataFrame中没有的行索引或列索引,DataFrame会自动进行新增行或列的操作;对于原DataFrame中已有的行索引或列索引,DataFrame会自动进行修改指定行或列的操作。基本用法如下。?
import numpy as np import pandas as pd data = np.random.rand(12).reshape(3, 4) * 100 df = pd.DataFrame(data, index=list('abc'), columns=list('ABCD')) print(df) print("---------------") # 新增列/行 df['E'] = 1 print(df) print("---------------") df.loc['d'] = 2 print(df) print("---------------") # 修改列/行 df['E'] = 10 print(df) print("---------------") df.loc['d'] = 20 print(df)
这里需要注意,不同于索引可以支持多行多列索引,DataFrame的添加和修改一次只能单行单列操作,例如上述使用df[['E','F']]=1是不合法的,会报错。运行结果如下所示。
以上是对一整行或一整列的添加和修改,我们也可以对指定某个位置上的值进行修改。?
import numpy as np import pandas as pd data = np.random.rand(12).reshape(3, 4) * 100 df = pd.DataFrame(data, index=list('abc'), columns=list('ABCD')) print(df) print("---------------") df['D'].loc['a'] = 1 print(df)
我们将D列a行位置上的数据修改为1,运行结果如下所示。
添加操作只支持整行或整列,若试图添加某个单独位置,则会报错。
DataFrame的删除
? pandas中分别使用“del”关键字和drop()函数来删除DataFrame的列和行。其中drop()函数的inplace参数默认为False,即返回一个新的DataFrame,若想改变原DataFrame,需将inplace参数设置为True。“del”关键字和drop()函数的基本用法如下。?
import numpy as np import pandas as pd data = np.random.rand(12).reshape(3, 4) * 100 df = pd.DataFrame(data, index=list('abc'), columns=list('ABCD')) print(df) print("---------------") # 删除列 del df['A'] print(df) print("---------------") # 删除行 df.drop(['a'], inplace=True) print(df) # drop删除列 df.drop(['B'], axis = 1, inplace=True) print(df)
与DataFrame的添加操作一样, DataFrame的删除只支持整行或整列操作,若想删除某个指定位置上的数据,可以将该位置上的数据修改为NaN。
DataFrame的自动对齐特性
当多个DataFrame进行运算时,DataFrame会根据行索引和列索引自动对齐,对共有的索引对应值进行相关运算,不共有的索引对应值则分别以缺失值NaN填充。 ?
import numpy as np import pandas as pd data1 = np.random.rand(12).reshape(3, 4) * 100 df1 = pd.DataFrame(data1, index=list('abc'), columns=list('ABCD')) data2 = np.random.rand(12).reshape(4, 3) * 100 df2 = pd.DataFrame(data2, index=list('abcd'), columns=list('ABC')) print(df1) print("---------------") print(df2) print("---------------") print(df1 + df2)
运行结果如下所示。可以看到,运算结果会包含参与运算的DataFrame的所有行索引和列索引。实际上,上述的df1和df2在运算前先进行了对齐,df1补了一个值全为NaN的行d,df2补了一个值全为NaN的列D,然后再进行运算,与NaN运算的结果就是NaN。
DataFrame的排序
pandas中使用sort_values()函数和sort_index()函数分别对DataFrame的数据值和索引进行排序。
我们先看一下对数据值的排序,sort_values()函数中传入要排序的行索引或列索引,注意必须是列表格式。ascending参数默认为True正序,设置ascending=False时为倒序。axis默认为0,按列排序,所以当按行排序时,传入行索引的同时必须设置axis=1。基本用法如下。??
import numpy as np import pandas as pd data = np.random.rand(12).reshape(3, 4) * 100 df = pd.DataFrame(data, index=list('abc'), columns=list('ABCD')) print(df) print("---------------") # 按列排序 print(df.sort_values(['A'])) print("---------------") print(df.sort_values(['A'], ascending=False)) print("---------------") # 按行排序 print(df.sort_values(['a'], axis=1))
运行结果如下所示。
我们也可以同时对多行或多列排序。以多列为例,排序规则为首先按第一个索引列进行排序,若有相同值,则比较第二个索引列对应位置上的值,依次类推。?
import numpy as np import pandas as pd # 多列排序 当A中有相同值时再按C排序 data = np.array([[1, 2, 4, 3], [2, 2, 1, 2], [1, 2, 1, 1]]) df = pd.DataFrame(data, index=list('abc'), columns=list('ABCD')) print(df) print("---------------") print(df.sort_values(['A', 'C']))
运行结果如下所示。A列中,a行与c行的值都为1,则看C列中a行与c行位置上的值,c位置上的值更小,所以c行排前面,最终顺序为c、a、b。
对索引值的排序使用sort_index()函数,用法类似sort_values()函数,基本用法如下。?
import numpy as np import pandas as pd data = np.random.rand(12).reshape(3, 4) * 100 df = pd.DataFrame(data, index=list('acb'), columns=list('DBAC')) print(df) print("---------------") print(df.sort_index()) print("---------------") print(df.sort_index(ascending=False)) print("---------------") print(df.sort_index(axis=1)) print("---------------") print(df.sort_index(axis=1, ascending=False))
运行结果如下所示。 ascending参数默认为True正序,设置ascending=False时为倒序。axis参数默认为0,对列索引排序,想要对行索引排序时,需将axis设置为1。
总结
以上介绍了DataFrame的一些特性和基本使用技巧方法,主要包括DataFrame运算时的自动对齐特性以及对DataFrame数据的查看、添加、修改、删除、排序等。感谢大家的关注,欢迎批评指正,一起交流~
?
?
相关推荐
- Docker篇(二):Docker实战,命令解析
-
大家好,我是杰哥上周我们通过几个问题,让大家对于Docker有了一个全局的认识。然而,说跟练往往是两个概念。从学习的角度来说,理论知识的学习,往往只是第一步,只有经过实战,才能真正掌握一门技术所以,本...
- docker学习笔记——安装和基本操作
-
今天学习了docker的基本知识,记录一下docker的安装步骤和基本命令(以CentOS7.x为例)一、安装docker的步骤:1.yuminstall-yyum-utils2.yum-con...
- 不可错过的Docker完整笔记(dockerhib)
-
简介一、Docker简介Docker是一个开源的应用容器引擎,基于Go语言并遵从Apache2.0协议开源。Docker可以让开发者打包他们的应用以及依赖包到一个轻量级、可移植的容器中,...
- 扔掉运营商的 IPTV 机顶盒,全屋全设备畅看 IPTV!
-
其实现在看电视节目的需求确实大大降低了,折腾也只是为了单纯的让它实现,享受这个过程带来的快乐而已,哈哈!预期构想家里所有设备直接接入网络随时接收并播放IPTV直播(电信点播的节目不是太多,但好在非常稳...
- 第五节 Docker 入门实践:从 Hello World 到容器操作
-
一、Docker容器基础运行(一)单次命令执行通过dockerrun命令可以直接在容器中执行指定命令,这是体验Docker最快捷的方式:#在ubuntu:15.10容器中执行ech...
- 替代Docker build的Buildah简单介绍
-
Buildah是用于通过较低级别的coreutils接口构建OCI兼容镜像的工具。与Podman相似,Buildah不依赖于Docker或CRI-O之类的守护程序,并且不需要root特权。Builda...
- Docker 命令大全(docker命令大全记录表)
-
容器生命周期管理run-创建并启动一个新的容器。start/stop/restart-这些命令主要用于启动、停止和重启容器。kill-立即终止一个或多个正在运行的容器rm-于删除一个或...
- docker常用指令及安装rabbitMQ(docker安装rabbitmq配置环境)
-
一、docker常用指令启动docker:systemctlstartdocker停止docker:systemctlstopdocker重启docker:systemctlrestart...
- 使用Docker快速部署Storm环境(docker部署confluence)
-
Storm的部署虽然不是特别麻烦,但是在生产环境中,为了提高部署效率,方便管理维护,使用Docker来统一管理部署是一个不错的选择。下面是我开源的一个新的项目,一个配置好了storm与mono环境的D...
- Docker Desktop安装使用指南:零基础教程
-
在之前的文章中,我多次提到使用Docker来安装各类软件,尤其是开源软件应用。鉴于不少读者对此有需求,我决定专门制作一期关于Docker安装与使用的详细教程。我主要以Macbook(Mac平台)为例进...
- Linux如何成功地离线安装docker(linux离线安装httpd)
-
系统环境:Redhat7.2和Centos7.4实测成功近期因项目需要用docker,所以记录一些相关知识,由于生产环境是不能直接连接互联网,尝试在linux中离线安装docker。步骤1.下载...
- Docker 类面试题(常见问题)(docker面试题目)
-
Docker常见问题汇总镜像相关1、如何批量清理临时镜像文件?可以使用sudodockerrmi$(sudodockerimages-q-fdanging=true)命令2、如何查看...
- 面试官:你知道Dubbo怎么优雅上下线的吗?你:优雅上下线是啥?
-
最近无论是校招还是社招,都进行的如火如荼,我也承担了很多的面试工作,在一次面试过程中,和候选人聊了一些关于Dubbo的知识。Dubbo是一个比较著名的RPC框架,很多人对于他的一些网络通信、通信协议、...
- 【Docker 新手入门指南】第五章:Hello Word
-
适合人群:完全零基础新手|学习目标:30分钟掌握Docker核心操作一、准备工作:先确认是否安装成功打开终端(Windows用户用PowerShell或GitBash),输入:docker--...
- 松勤软件测试:详解Docker,如何用portainer管理Docker容器
-
镜像管理搜索镜像dockersearch镜像名称拉取镜像dockerpullname[:tag]列出镜像dockerimages删除镜像dockerrmiimage名称或id删除...
- 一周热门
- 最近发表
-
- Docker篇(二):Docker实战,命令解析
- docker学习笔记——安装和基本操作
- 不可错过的Docker完整笔记(dockerhib)
- 扔掉运营商的 IPTV 机顶盒,全屋全设备畅看 IPTV!
- 第五节 Docker 入门实践:从 Hello World 到容器操作
- 替代Docker build的Buildah简单介绍
- Docker 命令大全(docker命令大全记录表)
- docker常用指令及安装rabbitMQ(docker安装rabbitmq配置环境)
- 使用Docker快速部署Storm环境(docker部署confluence)
- Docker Desktop安装使用指南:零基础教程
- 标签列表
-
- mybatiscollection (79)
- mqtt服务器 (88)
- keyerror (78)
- c#map (65)
- resize函数 (64)
- xftp6 (83)
- bt搜索 (75)
- c#var (76)
- mybatis大于等于 (64)
- xcode-select (66)
- mysql授权 (74)
- 下载测试 (70)
- linuxlink (65)
- pythonwget (67)
- androidinclude (65)
- logstashinput (65)
- hadoop端口 (65)
- vue阻止冒泡 (67)
- oracle时间戳转换日期 (64)
- jquery跨域 (68)
- php写入文件 (73)
- kafkatools (66)
- mysql导出数据库 (66)
- jquery鼠标移入移出 (71)
- 取小数点后两位的函数 (73)