Pandas数据初探索
本文介绍的是Pandas数据初探索。当我们生成或者导入了数据之后,通过数据的探索工作能够快速了解和认识数据基本信息,比如数据中字段的类型、索引、最值、缺失值等,可以让我们对数据的全貌有一个初步了解。
思维导图
模拟数据
本文中的方法介绍使用的是一份模拟数据,有字符型、数值型,还有时间类型;同时数据刻意存在了缺失值:
使用pandas的read_excel方法对数据进行读取:
同时生成一个Series类型数据:
数据样本
头尾数据查看
- head(N):默认是头部5条,可以指定查看N条
- tail(N):默认是尾部5条,可以指定查看N条
随机查看sample
默认是随机看一条数据,也可以指定查看的条数:
查看数据形状shape
在这里的形状指的是数据有多少行和多少列,通过查看数据的shape就能知道数据的大小
- DataFrame类型:两个数值,表示行和列
- Series类型:只有行数
数据大小size
数据大小表示的是数据中总共有多少个数据,即shape方法的结果中两个数值相乘
1 | df.size # 56=7*8 |
数据维度ndim
表示数据是多少维,比如二维,三维等
数据基本信息info
显示数据类型、索引情况、行列数、列属性名称、占用的内存等信息;Series数据没有该方法
数据类型dtypes
1 | df.dtypes # 每个列属性的数据类型 |
列属性和行索引
通过axes来查看;DataFrame数据既有行索引也有列名,Series数据只有行索引。
查看行索引
通过专门的index属性来查看行索引
查看列属性
1 | df.columns |
查看数据
两个方法或属性查看:
- values
- to_numpy()
查看缺失值
在数据帧中如果存在缺失值,则用True表示,否则取值为False:
查看内存情况memory_usage()
查看每列的内存使用情况,以字节为单位:
1 | df.memory_usage() |
统计信息
描述信息只针对数值型的数据,可以看到该字段中数据的统计值信息
整体信息describe
返回的是数值型数据中的个数、均值、方差、四分位数等统计值情况
1 | df.describe() |
查看均值
一般 DataFrame 计算后为一个 Series,Series 计算后是一个具体的数值
下面的代码是按照列来计算均值:
1 | df.mean() # 按列计算 |
查看某个列的均值:
1 | df["math"].mean() # 117.0 |
下面的代码是按照行来计算均值:
1 | df.mean(1) # 按照行计算 |
Pandas内置数学计算方法
Pandas中内置的多种数学计算函数
1 | # 默认按照列0计算,1表示按照行计算 |
总结
本文主要是对Pandas中的数据探索做了一个详细介绍,帮助我们快速了解数据的基本信息,同时也方便后续的数据处理和分析。