数据的合并与关联是数据处理过程中经常遇到的问题,在sql、hql中大家可能都有用到 join、uion all 等 ,在 pandas 中也有同样的功能,来满足数据处理需求,个人感觉 pandas 处理数据还是非常方便,数据处理效率比较高,能满足不同的业务需求
数据拼接:pd.concat
concat 是pandas级的函数,用来拼接或合并数据,其根据不同的轴既可以横向拼接,又可以纵向拼接
函数参数
pd.concat( objs: 'iterable[ndframe] | mapping[hashable, ndframe]', axis=0, join='outer', ignore_index: 'bool' = false, keys=none, levels=none, names=none, verify_integrity: 'bool' = false, sort: 'bool' = false, copy: 'bool' = true, ) -> 'frameorseriesunion'
objs
:合并的数据集,一般用列表传入,例如:[df1,df2,df3]axis
:指定数据拼接时的轴,0是行,在行方向上拼接;1是列,在列方向上拼接join
:拼接的方式有 inner,或者outer,与sql中的意思一样
以上三个参数在实际工作中经常使用,其他参数不再做介绍
案例:
模拟数据
横向拼接
横向拼接-1
字段相同的列进行堆叠,字段不同的列分列存放,缺失值用nan
来填充,下面对模拟数据进行变换用相同的字段,进行演示
横向拼接-2
纵向拼接
纵向拼接
可以看出在纵向拼接的时候,会按索引进行关联,使相同名字的成绩放在一起,而不是简单的堆叠
数据关联:pd.merge
数据关联与sql中的join基本一样,一次可以关联两个数据表,有左表、右表的区分,需要可以指定关联的字段
函数参数
pd.merge( left: 'dataframe | series', right: 'dataframe | series', how: 'str' = 'inner', on: 'indexlabel | none' = none, left_on: 'indexlabel | none' = none, right_on: 'indexlabel | none' = none, left_index: 'bool' = false, right_index: 'bool' = false, sort: 'bool' = false, suffixes: 'suffixes' = ('_x', '_y'), copy: 'bool' = true, indicator: 'bool' = false, validate: 'str | none' = none, ) -> 'dataframe'
left
:左表right
:右表how
:关联的方式,{‘left’, ‘right’, ‘outer’, ‘inner’, ‘cross’}, 默认关联方式为 ‘inner’on
:关联时指定的字段,两个表共有的left_on
:关联时用到左表中的字段,在两个表不共有关联字段时使用right_on
:关联时用到右表中的字段,在两个表不共有关联字段时使用
以上参数在实际工作中经常使用,其他参数不再做介绍
案例:
数据关联
merge 的使用与sql中的 join 很像,使用方式基本一致,既有内连接,也有外连接,用起来基本没有什么难度
两者区别
- concat 只是 pandas 下的方法,而 merge 即是 pandas 下的方法,又是dataframe 下的方法
- concat 可以横向、纵向拼接,又起到关联的作用
- merge 只能进行关联,也就是纵向拼接
- concat 可以同时处理多个数据框dataframe,而 merge 只能同时处理 2 个数据框
到此这篇关于一次性彻底讲透python中pd.concat与pd.merge的文章就介绍到这了,更多相关python pd.concat与pd.merge内容请搜索以前的文章或继续浏览下面的相关文章希望大家以后多多支持!