百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 热门文章 > 正文

pandas的合并(merge)操作

bigegpt 2024-08-16 14:18 2 浏览

merge与concat的区别在于,merge需要依据某一共同的行或列来进行合并

使用pd.merge()合并时,会自动根据两者相同column名称的那一列,作为key来进行合并。

注意每一列元素的顺序不要求一致

1.一对一合并

import numpy as np
import pandas as pd
from pandas import Series,DataFrame

df1 = DataFrame({'employee':['Bob','Jake','Lisa'],
 'group':['Accounting','Engineering','Engineering'],
 })
df2 = DataFrame({'employee':['Lisa','Bob','Jake'],
 'hire_date':[2004,2008,2012],
 })
display(df1,df2)
输出:
 	employee	group
0	Bob 	Accounting
1	Jake 	Engineering
2	Lisa	 Engineering

	 employee 	hire_date
 0	Lisa	 2004
 1	Bob 	2008
 2	Jake	 2012
 df3 = pd.merge(df1,df2)
 df3
 输出:
 	employee	group	hire_date
0	 Bob	Accounting	 2008
1	 Jake	Engineering	 2012
2	 Lisa	Engineering	 2004

多对一合并

df3 = DataFrame({
 'employee':['Lisa','Jake'],
 'group':['Accounting','Engineering'],
 'hire_date':[2004,2016]})
df4 = DataFrame({'group':['Accounting','Engineering','Engineering'],
 'supervisor':['Carly','Guido','Steve']
 })
display(df3,df4,pd.merge(df3,df4))
输出:
	employee		group		hire_date
0		Lisa		Accounting		2004
2	 	Jake		Engineering		2016

		group			supervisor
0		Accounting		Carly
1		Engineering		Guido
2		Engineering		Steve

	employee	group	hire_date	supervisor
0	Lisa	Accounting	2004	Carly
1	Jake	Engineering	2016	Guido
2	Jake	Engineering	2016	Steve

多对多合并

df1 = DataFrame({'employee':['Bob','Jake','Lisa'],
 'group':['Accounting','Engineering','Engineering']})
df5 = DataFrame({'group':['Engineering','Engineering','HR'],
 'supervisor':['Carly','Guido','Steve']
 })
display(df1,df5,pd.merge(df1,df5))#多对多
display(pd.concat([df1,df5]))
输出:
	employee	group
0	Bob		Accounting
1	Jake		Engineering
2	Lisa		Engineering

	group		supervisor
0	Engineering	Carly
1	Engineering	Guido
2		HR			Steve

employee	group	supervisor
0	Jake	Engineering	Carly
1	Jake	Engineering	Guido
2	Lisa	Engineering	Carly
3	Lisa	Engineering	Guido

 	employee			group		supervisor
0		Bob			Accounting		NaN
1		Jake			Engineering		NaN
2		Lisa			Engineering		NaN
0		NaN			Engineering		Carly
1		NaN			Engineering		Guido
2		NaN					HR			Steve

(1)key的规范化

使用on=显式指定哪一列为key

df1 = DataFrame({'employee':['Jack',"Summer","Steve"],
 'group':['Accounting','Finance','Marketing']})
df2 = DataFrame({'employee':['Jack','Bob',"Jake"],
 'hire_date':[2003,2009,2012],
 'group':['Accounting','sell','ceo']})
display(df1,df2,pd.merge(df1,df2),pd.merge(df1,df2,on = 'employee'))
输出:
 employee	group
0	Jack	 Accounting
1	Summer	Finance
2	Steve	Marketing

 employee	group	hire_date
0	Jack 	Accounting	2003
1	Bob	 sell	 2009
2	Jake ceo	 2012

 employee	group	hire_date
0	Jack	 Accounting	2003

	employee	 group_x	 group_y	hire_date
0	 Jack 		Accounting	Accounting	 2003

使用left_on和right_on指定左右两边的列作为key

df1 = DataFrame({'employee':['Bobs','Linda','Bill'],
 'group':['Accounting','Product','Marketing'],
 'hire_date':[1998,2017,2018]})
df5 = DataFrame({'name':['Lisa','Bobs','Bill'],
 'hire_dates':[1998,2016,2007]})
display(df1,df5,pd.merge(df1,df5,left_on = 'employee',right_on = 'name'))
输出:
	employee	group		hire_date
0		Bobs	Accounting	1998
1		Linda	Product			2017
2		Bill	Marketing			2018

 hire_dates	 	name
0	1998			Lisa
1	2016			Bobs
2	2007			Bill

employee	group	 hire_date	hire_dates	name
0	Bobs	Accounting	 1998	 2016	 Bobs
1	Bill	 Marketing	 2018	 2007	 Bill

(2)内合并与外合并

内合并:只保留两者都有的key(默认模式)

df6 = DataFrame({'name':['Peter','Paul','Mary'],
 'food':['fish','beans','bread']}
 )
df7 = DataFrame({'name':['Mary','Joseph'],
 'drink':['wine','beer']})
display(df6,df7,pd.merge(df6,df7))
输出:
	food	name
0	fish	Peter
1	beans	Paul
2	bread	Mary
	drink	name
0	wine	Mary
1	beer	Joseph
	food		name	drink
0	bread	Mary		winee

外合并 how='outer':补NaN

df6 = DataFrame({'name':['Peter','Paul','Mary'],
 'food':['fish','beans','bread']}
 )
df7 = DataFrame({'name':['Mary','Joseph'],
 'drink':['wine','beer']})
display(df6,df7,pd.merge(df6,df7,how='outer'))
输出:
	food	name
0	fish	Peter
1	beans	Paul
2	bread	Mary
	drink	name
0	wine	Mary
1	beer	Joseph
 	 food		name		drink 
0	fish			Peter		NaN 
1	beans		Paul			NaN 
2	bread		Mary	 		wine 
3	NaN		 Joseph		beer 

左合并、右合并:how='left',how='right'

df6 = DataFrame({'name':['Peter','Paul','Mary'],
 'food':['fish','beans','bread']}
 )
df7 = DataFrame({'name':['Mary','Joseph'],
 'drink':['wine','beer']})
display(df6,df7,pd.merge(df6,df7,how='left'))
display(df6,df7,pd.merge(df6,df7,how='right'))
输出:
	food		name
0	fish		Peter
1	beans	Paul
2	bread	Mary
	drink	name
0	wine		Mary
1	beer		Joseph
	food		name	drink	
0	fish		Peter	NaN		
1	beans	Paul		NaN		
2	bread	Mary		wine		
	food		name	drink	
0	bread	Mary		wine		
1	NaN		Joseph	beer		

(3)列冲突的解决

当列冲突时,即有多个列名称相同时,需要使用on=来指定哪一个列作为key

df8 = DataFrame({'name':['Peter','Paul','Mary'],'rank':[1,2,3]})
df9 = DataFrame({'name':['Peter','Paul','Mary'],'rank':[5,6,7]})
display(df8,df9,pd.merge(df8,df9,on = 'name',suffixes=['rank_L','rank_R']))
输出:
	name	rank
0	Peter	1
1	Paul		2
2	Mary		3

name	rank
0	Peter	5
1	Paul		6
2	Mary		7

	name	rankrank_L	rankrank_R
0	Peter		1					5			
1	Paul			2					6			
2	Mary			3					7			

回顾:Series/DataFrame运算与ndarray运算的区别

ndarray有广播,通过重复已有值来计算

a = np.array([1,2,3])
b = np.array([2])
display(a,b,a+b)
输出:
array([1, 2, 3])
array([2])
array([3, 4, 5])

Series与DataFrame没有广播,如果对应index没有值,则记为NaN;或者使用add的fill_value来补缺失值

相关推荐

了解Linux目录,那你就了解了一半的Linux系统

大到公司或者社群再小到个人要利用Linux来开发产品的人实在是多如牛毛,每个人都用自己的标准来配置文件或者设置目录,那么未来的Linux则就是一团乱麻,也对管理造成许多麻烦。后来,就有所谓的FHS(F...

Linux命令,这些操作要注意!(linux命令?)

刚玩Linux的人总觉得自己在演黑客电影,直到手滑输错命令把公司服务器删库,这才发现命令行根本不是随便乱用的,而是“生死簿”。今天直接上干货,告诉你哪些命令用好了封神!喜欢的一键三连,谢谢观众老爷!!...

Linux 命令速查手册:这 30 个高频指令,拯救 90% 的运维小白!

在Linux系统的世界里,命令行是强大的武器。对于运维小白而言,掌握一些高频使用的Linux命令,能极大提升工作效率,轻松应对各种系统管理任务。今天,就为大家奉上精心整理的30个Linu...

linux必学的60个命令(linux必学的20个命令)

以下是Linux必学的20个基础命令:1.cd:切换目录2.ls:列出文件和目录3.mkdir:创建目录4.rm:删除文件或目录5.cp:复制文件或目录6.mv:移动/重命名文件或目录7....

提高工作效率的--Linux常用命令,能够决解95%以上的问题

点击上方关注,第一时间接受干货转发,点赞,收藏,不如一次关注评论区第一条注意查看回复:Linux命令获取linux常用命令大全pdf+Linux命令行大全pdf为什么要学习Linux命令?1、因为Li...

15 个实用 Linux 命令(linux命令用法及举例)

Linux命令行是系统管理员、开发者和技术爱好者的强大工具。掌握实用命令不仅能提高效率,还能解锁Linux系统的无限潜力,本文将深入介绍15个实用Linux命令。ls-列出目录内容l...

Linux 常用命令集合(linux常用命令全集)

系统信息arch显示机器的处理器架构(1)uname-m显示机器的处理器架构(2)uname-r显示正在使用的内核版本dmidecode-q显示硬件系统部件-(SMBIOS/DM...

Linux的常用命令就是记不住,怎么办?

1.帮助命令1.1help命令#语法格式:命令--help#作用:查看某个命令的帮助信息#示例:#ls--help查看ls命令的帮助信息#netst...

Linux常用文件操作命令(linux常用文件操作命令有哪些)

ls命令在Linux维护工作中,经常使用ls这个命令,这是最基本的命令,来写几条常用的ls命令。先来查看一下使用的ls版本#ls--versionls(GNUcoreutils)8.4...

Linux 常用命令(linux常用命令)

日志排查类操作命令查看日志cat/var/log/messages、tail-fxxx.log搜索关键词grep"error"xxx.log多条件过滤`grep-E&#...

简单粗暴收藏版:Linux常用命令大汇总

号主:老杨丨11年资深网络工程师,更多网工提升干货,请关注公众号:网络工程师俱乐部下午好,我的网工朋友在Linux系统中,命令行界面(CLI)是管理员和开发人员最常用的工具之一。通过命令行,用户可...

「Linux」linux常用基本命令(linux常用基本命令和用法)

Linux中许多常用命令是必须掌握的,这里将我学linux入门时学的一些常用的基本命令分享给大家一下,希望可以帮助你们。总结送免费学习资料(包含视频、技术学习路线图谱、文档等)1、显示日期的指令:d...

Linux的常用命令就是记不住,怎么办?于是推出了这套教程

1.帮助命令1.1help命令#语法格式:命令--help#作用:查看某个命令的帮助信息#示例:#ls--help查看ls命令的帮助信息#netst...

Linux的30个常用命令汇总,运维大神必掌握技能!

以下是Linux系统中最常用的30个命令,精简版覆盖日常操作核心需求,适合快速掌握:一、文件/目录操作1.`ls`-列出目录内容`ls-l`(详细信息)|`ls-a`(显示隐藏文件)...

Linux/Unix 系统中非常常用的命令

Linux/Unix系统中非常常用的命令,它们是进行文件操作、文本处理、权限管理等任务的基础。下面是对这些命令的简要说明:**文件操作类:*****`ls`(list):**列出目录内容,显...