面对一堆数据，你要怎么做——python数据合并、重塑和清理

bigegpt 2024-10-12 05:01 12 浏览

数据的清理、转换、合并和重塑是数据分析与挖掘的基础工作，而且常常消耗了分析人员大部分的时间，本文将介绍pandas的核心函数如何帮助分析人员进行数据规整工作。

一、数据的重排

多个数据集的合并是我们经常遇到的数据规整工作，例如各种类型商品在不同渠道的销售数据需要按照渠道进行汇总，各子公司每个月的财务数据需要按照月份进行汇总，这里边主要用到以下4个函数：

函数	参数	说明
pandas.merge()	Left, right, how ,on, left_on, right_on, sort, suffixes, copy	可根据一个或多个键将DataFrame连接起来
pandas.concat()	objs, axis, join, join_axes, keys, levels, names, verify_integrity, ignore_index	沿着一个轴将多个对象堆叠到一起
obj1.combile_first(obj2)	obj	将重复数据编结在一起，用一个对象的值边界另一个对象对缺失值。
np.where()	如np.where(pd.innull(a),b,a)	If-else逻辑的矢量化形式

下面以官方文档的几个例子简单介绍一下：

示例1：pandas.merge()

示例2：pandas.concat()

我们常常需要把时间序列的数据按照类别、区域等维度进行重塑，从长格式转变为宽格式，这里边主要涉及3个函数：

函数	参数	说明
obj.stack()	level, dropna, 默认值为level=-1, dropna=True，从最内层开始旋转，过滤缺失值	将DataFrame数据的列选装为行,返回Series
obj.unstack	Level, fill_value, 默认值为level=-1, fill_value=None，从最内层开始旋转，不填充缺失值	将层次化索引的Series旋转为列，返回DataFrame
pandas.pivot_table	Obj, values, index, columns, aggfunc	创建层次化索引，并重塑。相当于先set_index，再unstack

示例如下：

示例3：Obj.stack()

示例4：Obj.unstack()

示例5：Pandas.pivot_table()

对数据进行合并或重塑后，就需要对数据的内容进行处理，例如去重、替换或者元素级的转换和计算。

函数	参数	说明
obj.duplicated()	Keep，默认为first，即判定第一次出现对行为true	判断是否重复，返回一个布尔型Series
obj.drop_duplicated()	keep='first', inplace=False	返回一个移除了重复行的DataFrame
obj.map()		接受一个函数或字典型对象，进行元素级转换
obj.replace()	Obj.replace(a,b)	替换

示例6：map()

最后，单独介绍一下Python的字符串和文本处理函数，Python进行字符串操作极其简洁。常用字符串的方法如下所示：

方法	说明
count	子串在字符串中出现对次数
endswith、startswith	字符串以某个后缀（前缀结尾），则返回true
Join	将字符串用作连接其它字符串序列的分隔符
index	如果在字符串中找到子串，则返回第一个发现的子串第一个字符所在对位置。否则引发valueError
find	如果在字符串中找到子串，则返回第一个发现的子串第一个字符所在对位置。否则返回-1
rfind	如果在字符串中找到子串，则返回最后一个发现对子串第一个字符所在对位置。否则返回-1
strip、rstrip、istrip	去除空白字符或换行符
Split	通过指定的分隔符将字符串拆分为一串子串
lower、upper	分别将字母转换大小写
Ijust、rjust	用空格（或其它字符）填充字符串的空白侧以返回符合最低宽度的字符串。

另外，还有Python的正则表达式功能也是文本处理的利器，主要使用内置对re模块，可以进行模式匹配（compile）、替换（replace）和拆分（split），常用的函数包括findall，match，search等。正则表达式其实可以自成一章，内容较多，此处不再详细介绍。