pandas之面属行统计

2023-06-13,,

描述统计学(descriptive statistics)是一门统计学领域的学科,主要研究如何取得反映客观现象的数据,并以图表形式对所搜集的数据进行处理和显示,最终对数据的规律、特征做出综合性的描述分析。Pandas 库正是对描述统计学知识完美应用的体现,可以说如果没有“描述统计学”作为理论基奠,那么 Pandas 是否存在犹未可知。下列表格对 Pandas 常用的统计学函数做了简单的总结:

函数名称 描述说明
count() 统计某个非空值的数量。
sum() 求和
mean() 求均值
median() 求中位数
mode() 求众数
std() 求标准差
min() 求最小值
max() 求最大值
abs() 求绝对值
prod() 求所有数值的乘积。
cumsum() 计算累计和,axis=0,按照行累加;axis=1,按照列累加。
cumprod() 计算累计积,axis=0,按照行累积;axis=1,按照列累积。
corr() 计算数列或变量之间的相关系数,取值-1到1,值越大表示关联性越强。

从描述统计学角度出发,我们可以对 DataFrame 结构执行聚合计算等其他操作,比如 sum() 求和、mean()求均值等方法。

在 DataFrame 中,使用聚合类方法时需要指定轴(axis)参数。下面介绍两种传参方式:

对行操作,默认使用 axis=0 或者使用 "index";
对列操作,默认使用 axis=1 或者使用 "columns"。

图1:axis轴示意图
 

从图 1 可以看出,axis=0 表示按垂直方向进行计算,而 axis=1 则表示按水平方向。下面让我们创建一个 DataFrame,使用它对本节的内容进行演示。

创建一个 DataFrame 结构,如下所示:

    import pandas as pd
    import numpy as np
    #创建字典型series结构
    d = {'Name':pd.Series(['小明','小亮','小红','小华','老赵','小曹','小陈',
    '老李','老王','小冯','小何','老张']),
    'Age':pd.Series([25,26,25,23,30,29,23,34,40,30,51,46]),
    'Rating':pd.Series([4.23,3.24,3.98,2.56,3.20,4.6,3.8,3.78,2.98,4.80,4.10,3.65])
    }
    df = pd.DataFrame(d)
    print(df)

输出结果:

   Name  Age  Rating
0 小明 25 4.23
1 小亮 26 3.24
2 小红 25 3.98
3 小华 23 2.56
4 老赵 30 3.20
5 小曹 29 4.60
6 小陈 23 3.80
7 老李 34 3.78
8 老王 40 2.98
9 小冯 30 4.80
10 小何 51 4.10
11 老张 46 3.65

sum()求和

在默认情况下,返回 axis=0 的所有值的和。示例如下:

    import pandas as pd
    import numpy as np
    #创建字典型series结构
    d = {'Name':pd.Series(['小明','小亮','小红','小华','老赵','小曹','小陈',
    '老李','老王','小冯','小何','老张']),
    'Age':pd.Series([25,26,25,23,30,29,23,34,40,30,51,46]),
    'Rating':pd.Series([4.23,3.24,3.98,2.56,3.20,4.6,3.8,3.78,2.98,4.80,4.10,3.65])
    }
    df = pd.DataFrame(d)
    #默认axis=0或者使用sum("index")
    print(df.sum())

输出结果:

Name      小明小亮小红小华老赵小曹小陈老李老王小冯小何老张
Age 382
Rating 44.92
dtype: object

注意:sum() 和 cumsum() 函数可以同时处理数字和字符串数据。虽然字符聚合通常不被使用,但使用这两个函数并不会抛出异常;而对于 abs()、cumprod() 函数则会抛出异常,因为它们无法操作字符串数据。

下面再看一下 axis=1 的情况,如下所示:

    import pandas as pd
    import numpy as np
    d = {'Name':pd.Series(['小明','小亮','小红','小华','老赵','小曹','小陈',
    '老李','老王','小冯','小何','老张']),
    'Age':pd.Series([25,26,25,23,30,29,23,34,40,30,51,46]),
    'Rating':pd.Series([4.23,3.24,3.98,2.56,3.20,4.6,3.8,3.78,2.98,4.80,4.10,3.65])
    }
    df = pd.DataFrame(d)
    #也可使用sum("columns")或sum(1)
    print(df.sum(axis=1))

输出结果:

0     29.23
1 29.24
2 28.98
3 25.56
4 33.20
5 33.60
6 26.80
7 37.78
8 42.98
9 34.80
10 55.10
11 49.65
dtype: float64

mean()求均值

示例如下:

    import pandas as pd
    import numpy as np
    d = {'Name':pd.Series(['小明','小亮','小红','小华','老赵','小曹','小陈',
    '老李','老王','小冯','小何','老张']),
    'Age':pd.Series([25,26,25,23,30,29,23,34,40,30,51,46]),
    'Rating':pd.Series([4.23,3.24,3.98,2.56,3.20,4.6,3.8,3.78,2.98,4.80,4.10,3.65])
    }
    df = pd.DataFrame(d)
    print(df.mean())

输出结果:

Age       31.833333
Rating 3.743333
dtype: float64

std()求标准差

返回数值列的标准差,示例如下:

    import pandas as pd
    import numpy as np
    d = {'Name':pd.Series(['小明','小亮','小红','小华','老赵','小曹','小陈',
    '老李','老王','小冯','小何','老张']),
    'Age':pd.Series([25,26,25,23,59,19,23,44,40,30,51,54]),
    'Rating':pd.Series([4.23,3.24,3.98,2.56,3.20,4.6,3.8,3.78,2.98,4.80,4.10,3.65])
    }
    df = pd.DataFrame(d)
    print(df.std())

输出结果:

Age       13.976983
Rating     0.661628
dtype: float64

标准差是方差的算术平方根,它能反映一个数据集的离散程度。注意,平均数相同的两组数据,标准差未必相同。

数据汇总描述

describe() 函数显示与 DataFrame 数据列相关的统计信息摘要。示例如下:

    import pandas as pd
    import numpy as np
    d = {'Name':pd.Series(['小明','小亮','小红','小华','老赵','小曹','小陈',
    '老李','老王','小冯','小何','老张']),
    'Age':pd.Series([25,26,25,23,30,29,23,34,40,30,51,46]),
    'Rating':pd.Series([4.23,3.24,3.98,2.56,3.20,4.6,3.8,3.78,2.98,4.80,4.10,3.65])
    }
    #创建DataFrame对象
    df = pd.DataFrame(d)
    #求出数据的所有描述信息
    print(df.describe())

输出结果:

             Age     Rating
count  12.000000  12.000000
mean   34.916667   3.743333
std    13.976983   0.661628
min    19.000000   2.560000
25%    24.500000   3.230000
50%    28.000000   3.790000
75%    45.750000   4.132500
max    59.000000   4.800000

describe() 函数输出了平均值、std 和 IQR 值(四分位距)等一系列统计信息。通过 describe() 提供的include能够筛选字符列或者数字列的摘要信息。

include 相关参数值说明如下:

object: 表示对字符列进行统计信息描述;
number:表示对数字列进行统计信息描述;
all:汇总所有列的统计信息。

下面看一组示例,如下所示:

    import pandas as pd
    import numpy as np
    d = {'Name':pd.Series(['小明','小亮','小红','小华','老赵','小曹','小陈',
    '老李','老王','小冯','小何','老张']),
    'Age':pd.Series([25,26,25,23,59,19,23,44,40,30,51,54]),
    'Rating':pd.Series([4.23,3.24,3.98,2.56,3.20,4.6,3.8,3.78,2.98,4.80,4.10,3.65])
    }
    df = pd.DataFrame(d)
    print(df.describe(include=["object"]))

输出结果:

       Name
count 12
unique 12
top 小红
freq 1

最后使用all参数,看一下输出结果,如下所示:

    import pandas as pd
    import numpy as np
    d = {'Name':pd.Series(['小明','小亮','小红','小华','老赵','小曹','小陈',
    '老李','老王','小冯','小何','老张']),
    'Age':pd.Series([25,26,25,23,59,19,23,44,40,30,51,54]),
    'Rating':pd.Series([4.23,3.24,3.98,2.56,3.20,4.6,3.8,3.78,2.98,4.80,4.10,3.65])
    }
    df = pd.DataFrame(d)
    print(df.describe(include="all"))

输出结果:

       Name        Age     Rating
count 12 12.000000 12.000000
unique 12 NaN NaN
top 小红 NaN NaN
freq 1 NaN NaN
mean NaN 34.916667 3.743333
std NaN 13.976983 0.661628
min NaN 19.000000 2.560000
25% NaN 24.500000 3.230000
50% NaN 28.000000 3.790000
75% NaN 45.750000 4.132500
max NaN 59.000000 4.800000

pandas之面属行统计的相关教程结束。

《pandas之面属行统计.doc》

下载本文的Word格式文档,以方便收藏与打印。