百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 热门文章 > 正文

数据处理进阶pandas入门(六) pandas 数据处理

bigegpt 2024-10-23 08:53 5 浏览

回顾

在数据处理进阶pandas入门(五)中,我们介绍了pandas中DataFrame的索引和切片的相关知识,对行索引和列索引的用法和差别做了比较。今天我们来看一下DataFrame的一些特性和使用技巧功能。

通过head()和tail()查看DataFrame数据

head()函数和tail()函数的用法与查看Series数据时一样,只是对于DataFrame,它们查看的是DataFrame的行。?

import numpy as np
import pandas as pd

data = np.random.rand(300).reshape(50, 6) * 100
df = pd.DataFrame(data)
print(df.head())
print("---------------")
print(df.head(2))
print("---------------")
print(df.tail())
print("---------------")
print(df.tail(3))

head()函数和tail()函数分别查看DataFrame的前几行和最后几行,当不传参数时,默认为前5行和后5行,想看指定行数时,传入对应数字即可。运行结果如下所示。

DataFrame的转置

对于DataFrame数据的查看,我们并不总是只想查看前几行或后几行,有时候我们想要查看前几列或后几列,这时可以利用DataFrame的转置,将原来的列变成行,再对转置后的DataFrame使用head()函数和tail()函数就可以顺利查看原DataFrame的前几列或后几列了。

由于DataFrame在结构上类似于NumPy的二维ndarray,可以将它当矩阵进行转置处理,DataFrame也拥有“T”属性用于转置,基本用法如下。?

import numpy as np
import pandas as pd

data = np.random.rand(24).reshape(4, 6) * 100
df = pd.DataFrame(data, columns=list('abcdef'))
print(df)
print("---------------")
print(df.T)

使用“T”属性对DataFrame进行转置,结果生成一个新的DataFrame,并不改变原DataFrame。转置后相当于对原DataFrame的行和列做了交换,运行结果如下所示。

对转置后的DataFrame使用head()函数和tail()函数就可以顺利查看原DataFrame的前几列和后几列了。 ?

import numpy as np
import pandas as pd

data = np.random.rand(24).reshape(4, 6) * 100
df = pd.DataFrame(data, columns=list('abcdef'))
print(df)
print("---------------")
df_T = df.T
print(df_T.head(2))
print("---------------")
# 对结果再做一次转置可得到原DataFrame的列的形式
print(df_T.tail(3).T)

虽然这种方法本质上查看的是转置后DataFrame的行,但其实我们顺利得到了原DataFrame的列。若要保持原DataFrame列的形式,只需要对查看转置后DataFrame的数据再做一次转置即可。上述代码中,我们在获取转置后DataFrame的最后3行后对其进行转置,结果就像是获取了原DataFrame的最后3列一样。运行结果如下所示。

DataFrame的添加和修改

DataFrame的添加和修改基于DataFrame的索引,分别使用DataFrame[]和loc[]或iloc[]对DataFrame的列和行进行添加和修改,对于原DataFrame中没有的行索引或列索引,DataFrame会自动进行新增行或列的操作;对于原DataFrame中已有的行索引或列索引,DataFrame会自动进行修改指定行或列的操作。基本用法如下。?

import numpy as np
import pandas as pd

data = np.random.rand(12).reshape(3, 4) * 100
df = pd.DataFrame(data, index=list('abc'), columns=list('ABCD'))
print(df)
print("---------------")
# 新增列/行
df['E'] = 1
print(df)
print("---------------")
df.loc['d'] = 2
print(df)
print("---------------")
# 修改列/行
df['E'] = 10
print(df)
print("---------------")
df.loc['d'] = 20
print(df)

这里需要注意,不同于索引可以支持多行多列索引,DataFrame的添加和修改一次只能单行单列操作,例如上述使用df[['E','F']]=1是不合法的,会报错。运行结果如下所示。

以上是对一整行或一整列的添加和修改,我们也可以对指定某个位置上的值进行修改。?

import numpy as np
import pandas as pd

data = np.random.rand(12).reshape(3, 4) * 100
df = pd.DataFrame(data, index=list('abc'), columns=list('ABCD'))
print(df)
print("---------------")
df['D'].loc['a'] = 1
print(df)

我们将D列a行位置上的数据修改为1,运行结果如下所示。

添加操作只支持整行或整列,若试图添加某个单独位置,则会报错。

DataFrame的删除

? pandas中分别使用“del”关键字和drop()函数来删除DataFrame的列和行。其中drop()函数的inplace参数默认为False,即返回一个新的DataFrame,若想改变原DataFrame,需将inplace参数设置为True。“del”关键字和drop()函数的基本用法如下。?

import numpy as np
import pandas as pd

data = np.random.rand(12).reshape(3, 4) * 100
df = pd.DataFrame(data, index=list('abc'), columns=list('ABCD'))
print(df)
print("---------------")
# 删除列
del df['A']
print(df)
print("---------------")
# 删除行
df.drop(['a'], inplace=True)
print(df)
# drop删除列
df.drop(['B'], axis = 1, inplace=True)
print(df)

与DataFrame的添加操作一样, DataFrame的删除只支持整行或整列操作,若想删除某个指定位置上的数据,可以将该位置上的数据修改为NaN。

DataFrame的自动对齐特性

当多个DataFrame进行运算时,DataFrame会根据行索引和列索引自动对齐,对共有的索引对应值进行相关运算,不共有的索引对应值则分别以缺失值NaN填充。 ?

import numpy as np
import pandas as pd

data1 = np.random.rand(12).reshape(3, 4) * 100
df1 = pd.DataFrame(data1, index=list('abc'), columns=list('ABCD'))
data2 = np.random.rand(12).reshape(4, 3) * 100
df2 = pd.DataFrame(data2, index=list('abcd'), columns=list('ABC'))
print(df1)
print("---------------")
print(df2)
print("---------------")
print(df1 + df2)

运行结果如下所示。可以看到,运算结果会包含参与运算的DataFrame的所有行索引和列索引。实际上,上述的df1和df2在运算前先进行了对齐,df1补了一个值全为NaN的行d,df2补了一个值全为NaN的列D,然后再进行运算,与NaN运算的结果就是NaN。

DataFrame的排序

pandas中使用sort_values()函数和sort_index()函数分别对DataFrame的数据值和索引进行排序。

我们先看一下对数据值的排序,sort_values()函数中传入要排序的行索引或列索引,注意必须是列表格式。ascending参数默认为True正序,设置ascending=False时为倒序。axis默认为0,按列排序,所以当按行排序时,传入行索引的同时必须设置axis=1。基本用法如下。??

import numpy as np
import pandas as pd

data = np.random.rand(12).reshape(3, 4) * 100
df = pd.DataFrame(data, index=list('abc'), columns=list('ABCD'))
print(df)
print("---------------")
# 按列排序
print(df.sort_values(['A']))
print("---------------")
print(df.sort_values(['A'], ascending=False))
print("---------------")
# 按行排序
print(df.sort_values(['a'], axis=1))

运行结果如下所示。

我们也可以同时对多行或多列排序。以多列为例,排序规则为首先按第一个索引列进行排序,若有相同值,则比较第二个索引列对应位置上的值,依次类推。?

import numpy as np
import pandas as pd

# 多列排序 当A中有相同值时再按C排序
data = np.array([[1, 2, 4, 3], [2, 2, 1, 2], [1, 2, 1, 1]])
df = pd.DataFrame(data, index=list('abc'), columns=list('ABCD'))
print(df)
print("---------------")
print(df.sort_values(['A', 'C']))

运行结果如下所示。A列中,a行与c行的值都为1,则看C列中a行与c行位置上的值,c位置上的值更小,所以c行排前面,最终顺序为c、a、b。

对索引值的排序使用sort_index()函数,用法类似sort_values()函数,基本用法如下。?

import numpy as np
import pandas as pd

data = np.random.rand(12).reshape(3, 4) * 100
df = pd.DataFrame(data, index=list('acb'), columns=list('DBAC'))
print(df)
print("---------------")
print(df.sort_index())
print("---------------")
print(df.sort_index(ascending=False))
print("---------------")
print(df.sort_index(axis=1))
print("---------------")
print(df.sort_index(axis=1, ascending=False))

运行结果如下所示。 ascending参数默认为True正序,设置ascending=False时为倒序。axis参数默认为0,对列索引排序,想要对行索引排序时,需将axis设置为1。

总结

以上介绍了DataFrame的一些特性和基本使用技巧方法,主要包括DataFrame运算时的自动对齐特性以及对DataFrame数据的查看、添加、修改、删除、排序等。感谢大家的关注,欢迎批评指正,一起交流~

?

?

相关推荐

Docker篇(二):Docker实战,命令解析

大家好,我是杰哥上周我们通过几个问题,让大家对于Docker有了一个全局的认识。然而,说跟练往往是两个概念。从学习的角度来说,理论知识的学习,往往只是第一步,只有经过实战,才能真正掌握一门技术所以,本...

docker学习笔记——安装和基本操作

今天学习了docker的基本知识,记录一下docker的安装步骤和基本命令(以CentOS7.x为例)一、安装docker的步骤:1.yuminstall-yyum-utils2.yum-con...

不可错过的Docker完整笔记(dockerhib)

简介一、Docker简介Docker是一个开源的应用容器引擎,基于Go语言并遵从Apache2.0协议开源。Docker可以让开发者打包他们的应用以及依赖包到一个轻量级、可移植的容器中,...

扔掉运营商的 IPTV 机顶盒,全屋全设备畅看 IPTV!

其实现在看电视节目的需求确实大大降低了,折腾也只是为了单纯的让它实现,享受这个过程带来的快乐而已,哈哈!预期构想家里所有设备直接接入网络随时接收并播放IPTV直播(电信点播的节目不是太多,但好在非常稳...

第五节 Docker 入门实践:从 Hello World 到容器操作

一、Docker容器基础运行(一)单次命令执行通过dockerrun命令可以直接在容器中执行指定命令,这是体验Docker最快捷的方式:#在ubuntu:15.10容器中执行ech...

替代Docker build的Buildah简单介绍

Buildah是用于通过较低级别的coreutils接口构建OCI兼容镜像的工具。与Podman相似,Buildah不依赖于Docker或CRI-O之类的守护程序,并且不需要root特权。Builda...

Docker 命令大全(docker命令大全记录表)

容器生命周期管理run-创建并启动一个新的容器。start/stop/restart-这些命令主要用于启动、停止和重启容器。kill-立即终止一个或多个正在运行的容器rm-于删除一个或...

docker常用指令及安装rabbitMQ(docker安装rabbitmq配置环境)

一、docker常用指令启动docker:systemctlstartdocker停止docker:systemctlstopdocker重启docker:systemctlrestart...

使用Docker快速部署Storm环境(docker部署confluence)

Storm的部署虽然不是特别麻烦,但是在生产环境中,为了提高部署效率,方便管理维护,使用Docker来统一管理部署是一个不错的选择。下面是我开源的一个新的项目,一个配置好了storm与mono环境的D...

Docker Desktop安装使用指南:零基础教程

在之前的文章中,我多次提到使用Docker来安装各类软件,尤其是开源软件应用。鉴于不少读者对此有需求,我决定专门制作一期关于Docker安装与使用的详细教程。我主要以Macbook(Mac平台)为例进...

Linux如何成功地离线安装docker(linux离线安装httpd)

系统环境:Redhat7.2和Centos7.4实测成功近期因项目需要用docker,所以记录一些相关知识,由于生产环境是不能直接连接互联网,尝试在linux中离线安装docker。步骤1.下载...

Docker 类面试题(常见问题)(docker面试题目)

Docker常见问题汇总镜像相关1、如何批量清理临时镜像文件?可以使用sudodockerrmi$(sudodockerimages-q-fdanging=true)命令2、如何查看...

面试官:你知道Dubbo怎么优雅上下线的吗?你:优雅上下线是啥?

最近无论是校招还是社招,都进行的如火如荼,我也承担了很多的面试工作,在一次面试过程中,和候选人聊了一些关于Dubbo的知识。Dubbo是一个比较著名的RPC框架,很多人对于他的一些网络通信、通信协议、...

【Docker 新手入门指南】第五章:Hello Word

适合人群:完全零基础新手|学习目标:30分钟掌握Docker核心操作一、准备工作:先确认是否安装成功打开终端(Windows用户用PowerShell或GitBash),输入:docker--...

松勤软件测试:详解Docker,如何用portainer管理Docker容器

镜像管理搜索镜像dockersearch镜像名称拉取镜像dockerpullname[:tag]列出镜像dockerimages删除镜像dockerrmiimage名称或id删除...