- 使用 Python 进行机器学习
- 家
- 基本
- Python生态系统
- 机器学习方法
- ML 项目的数据加载
- 通过统计了解数据
- 通过可视化了解数据
- 准备数据
- 数据特征选择
- 机器学习算法 - 分类
- 介绍
- 逻辑回归
- 支持向量机(SVM)
- 决策树
- 朴素贝叶斯
- 随机森林
- 机器学习算法 - 回归
- 随机森林
- 线性回归
- 机器学习算法 - 聚类
- 概述
- K均值算法
- 均值平移算法
- 层次聚类
- ML 算法 - KNN 算法
- 寻找最近的邻居
- 性能指标
- 自动工作流程
- 提高机器学习模型的性能
- 提高 ML 模型的性能(续……)
- 使用 Python 进行机器学习 - 资源
- 使用 Python 进行机器学习 - 快速指南
- 使用 Python 进行机器学习 - 资源
- 使用 Python 进行机器学习 - 讨论
ML - 通过可视化理解数据
介绍
在上一章中,我们讨论了数据对于机器学习算法的重要性以及一些通过统计来理解数据的 Python 方法。还有另一种称为可视化的方法来理解数据。
借助数据可视化,我们可以看到数据是什么样子的,以及数据的属性具有什么样的相关性。这是查看特征是否与输出相对应的最快方法。借助以下 Python 食谱,我们可以通过统计来理解 ML 数据。
单变量图:独立理解属性
最简单的可视化类型是单变量或“单变量”可视化。借助单变量可视化,我们可以独立地理解数据集的每个属性。以下是 Python 中实现单变量可视化的一些技术 -
直方图
直方图将数据分组到箱中,是了解数据集中每个属性分布的最快方法。以下是直方图的一些特征 -
它为我们提供了为可视化而创建的每个箱中的观察数量的计数。
从箱的形状,我们可以很容易地观察到分布,即它是高斯分布、偏斜分布还是指数分布。
直方图还可以帮助我们看到可能的异常值。
例子
下面显示的代码是创建 Pima Indian Diabetes 数据集属性直方图的 Python 脚本示例。在这里,我们将在 Pandas DataFrame 上使用 hist() 函数来生成直方图,并使用matplotlib来绘制它们。
from matplotlib import pyplot from pandas import read_csv path = r"C:\pima-indians-diabetes.csv" names = ['preg', 'plas', 'pres', 'skin', 'test', 'mass', 'pedi', 'age', 'class'] data = read_csv(path, names=names) data.hist() pyplot.show()
输出
上面的输出显示它为数据集中的每个属性创建了直方图。由此,我们可以观察到年龄、足部和测试属性可能呈指数分布,而质量和血浆呈高斯分布。
密度图
另一种获取每个属性分布的快速简便的技术是密度图。它也类似于直方图,但在每个箱的顶部绘制了一条平滑的曲线。我们可以将它们称为抽象直方图。
例子
在以下示例中,Python 脚本将为 Pima Indian Diabetes 数据集的属性分布生成密度图。
from matplotlib import pyplot from pandas import read_csv path = r"C:\pima-indians-diabetes.csv" names = ['preg', 'plas', 'pres', 'skin', 'test', 'mass', 'pedi', 'age', 'class'] data = read_csv(path, names=names) data.plot(kind='density', subplots=True, layout=(3,3), sharex=False) pyplot.show()
输出
从上面的输出中,可以很容易地理解密度图和直方图之间的差异。
箱须图
箱须图(也简称为箱线图)是查看每个属性分布情况的另一种有用技术。以下是该技术的特点 -
它本质上是单变量,总结了每个属性的分布。
它为中间值(即中位数)绘制一条线。
它在 25% 和 75% 周围画了一个方框。
它还绘制了胡须,这将使我们了解数据的传播。
胡须外面的点表示异常值。异常值将比中间数据的分布大小大 1.5 倍。
例子
在以下示例中,Python 脚本将为 Pima Indian Diabetes 数据集的属性分布生成密度图。
from matplotlib import pyplot from pandas import read_csv path = r"C:\pima-indians-diabetes.csv" names = ['preg', 'plas', 'pres', 'skin', 'test', 'mass', 'pedi', 'age', 'class'] data = read_csv(path, names=names) data.plot(kind='box', subplots=True, layout=(3,3), sharex=False,sharey=False) pyplot.show()
输出
从上面的属性分布图可以看出,年龄、测试和皮肤似乎偏向较小的值。
多元图:多个变量之间的相互作用
另一种类型的可视化是多变量或“多变量”可视化。借助多变量可视化,我们可以理解数据集多个属性之间的交互。以下是 Python 中实现多变量可视化的一些技术 -
相关矩阵图
相关性是两个变量之间变化的指示。在前面的章节中,我们讨论了皮尔逊相关系数以及相关性的重要性。我们可以绘制相关矩阵来显示哪个变量相对于另一个变量具有高或低相关性。
例子
在以下示例中,Python 脚本将为 Pima Indian Diabetes 数据集生成并绘制相关矩阵。它可以借助 Pandas DataFrame 上的 corr() 函数生成,并借助 pyplot 进行绘制。
from matplotlib import pyplot from pandas import read_csv import numpy Path = r"C:\pima-indians-diabetes.csv" names = ['preg', 'plas', 'pres', 'skin', 'test', 'mass', 'pedi', 'age', 'class'] data = read_csv(Path, names=names) correlations = data.corr() fig = pyplot.figure() ax = fig.add_subplot(111) cax = ax.matshow(correlations, vmin=-1, vmax=1) fig.colorbar(cax) ticks = numpy.arange(0,9,1) ax.set_xticks(ticks) ax.set_yticks(ticks) ax.set_xticklabels(names) ax.set_yticklabels(names) pyplot.show()
输出
从上面输出的相关矩阵可以看出,它是对称的,即左下角与右上角相同。还观察到每个变量彼此呈正相关。
散点矩阵图
散点图借助二维点显示一个变量受另一个变量影响的程度或它们之间的关系。散点图在概念上非常类似于折线图,它们使用水平轴和垂直轴来绘制数据点。
例子
在以下示例中,Python 脚本将为 Pima Indian Diabetes 数据集生成并绘制散点矩阵。它可以借助 Pandas DataFrame 上的 scatter_matrix() 函数生成,并借助 pyplot 进行绘制。
from matplotlib import pyplot from pandas import read_csv from pandas.tools.plotting import scatter_matrix path = r"C:\pima-indians-diabetes.csv" names = ['preg', 'plas', 'pres', 'skin', 'test', 'mass', 'pedi', 'age', 'class'] data = read_csv(path, names=names) scatter_matrix(data) pyplot.show()