使用 scikit-learn 的 train_test_split() 拆分数据集

使用先决条件 train_test_split()

现在您了解了拆分数据集以执行无偏模型评估并识别欠拟合或过拟合的必要性，您已准备好学习如何拆分自己的数据集。

您将使用scikit-learn 的0.23.1 版，或sklearn. 它有许多用于数据科学和机器学习的包，但在本教程中，您将重点关注model_selection包，特别是函数train_test_split()。

您可以安装sklearn使用pip install：

$ python -m pip install -U "scikit-learn==0.23.1"

如果您使用Anaconda，那么您可能已经安装了它。但是，如果您想使用全新环境，请确保您拥有指定的版本，或者使用Miniconda，那么您可以使用以下命令sklearn从 Anaconda Cloud安装conda install：

$ conda install -c anaconda scikit-learn=0.23

您还需要NumPy，但您不必单独安装它。sklearn如果你还没有安装它，你应该得到它。如果您想刷新您的 NumPy 知识，请查看官方文档或查看Look Ma, No For-Loops: Array Programming With NumPy。

线性回归的极简示例

在此示例中，您将应用迄今为止学到的知识来解决一个小的回归问题。您将学习如何创建数据集，将它们拆分为训练和测试子集，并将它们用于线性回归。

与往常一样，您将从导入必要的包、函数或类开始。您将需要 NumPy LinearRegression、 和train_test_split()：

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression
>>> from sklearn.model_selection import train_test_split

现在您已经导入了您需要的所有内容，您可以创建两个小数组x和y, 来表示观察结果，然后像以前一样将它们拆分为训练集和测试集：

>>> x = np.arange(20).reshape(-1, 1)
>>> y = np.array([5, 12, 11, 19, 30, 29, 23, 40, 51, 54, 74,
...               62, 68, 73, 89, 84, 89, 101, 99, 106])
>>> x
array([[ 0],
       [ 1],
       [ 2],
       [ 3],
       [ 4],
       [ 5],
       [ 6],
       [ 7],
       [ 8],
       [ 9],
       [10],
       [11],
       [12],
       [13],
       [14],
       [15],
       [16],
       [17],
       [18],
       [19]])
>>> y
array([  5,  12,  11,  19,  30,  29,  23,  40,  51,  54,  74,  62,  68,
        73,  89,  84,  89, 101,  99, 106])
>>> x_train, x_test, y_train, y_test = train_test_split(
...     x, y, test_size=8, random_state=0
... )

您的数据集有 20 个观察值，或x-y对。您指定参数test_size=8，因此数据集被划分为包含 12 个观测值的训练集和包含 8 个观测值的测试集。

现在您可以使用训练集来拟合模型：

>>> model = LinearRegression().fit(x_train, y_train)
>>> model.intercept_
3.1617195496417523
>>> model.coef_
array([5.53121801])

LinearRegression创建代表模型的对象，同时.fit()训练或拟合模型并返回它。对于线性回归，拟合模型意味着确定回归线的最佳截距 ( model.intercept_) 和斜率 ( model.coef_) 值。

尽管您可以使用x_train和y_train检查拟合优度，但这不是最佳实践。对模型预测性能的无偏估计基于测试数据：

>>> model.score(x_train, y_train)
0.9868175024574795
>>> model.score(x_test, y_test)
0.9465896927715023

.score()返回判定系数，或- [R ²，用于传递的数据。其最大值为1。越高[R ²价值，更好的配合。在这种情况下，训练数据会产生稍高的系数。然而，[R与试验数据计算²是模型的预测性能可以客观地衡量。

这是它在图表上的样子：

绿点代表用于训练的x-y对。黑线称为估计回归线，由模型拟合的结果定义：截距和斜率。因此，它仅反映绿点的位置。

白点代表测试集。您可以使用它们来估计模型（回归线）的性能以及未用于训练的数据。

回归示例

现在您已准备好拆分更大的数据集来解决回归问题。您将使用著名的波士顿房价数据集，该数据集包含在sklearn. 该数据集有 506 个样本、13 个输入变量和作为输出的房屋价值。您可以使用 检索它load_boston()。

首先，导入train_test_split()和load_boston()：

>>> from sklearn.datasets import load_boston
>>> from sklearn.model_selection import train_test_split

现在您已经导入了这两个函数，您可以获取要使用的数据：

>>> x, y = load_boston(return_X_y=True)

如您所见，load_boston()参数return_X_y=True返回一个包含两个 NumPy 数组的元组：

1. 具有输入的二维数组
2. 具有输出的一维数组

下一步是像以前一样拆分数据：

>>> x_train, x_test, y_train, y_test = train_test_split(
...     x, y, test_size=0.4, random_state=0
... )

现在你有了训练集和测试集。训练数据包含在x_train和y_train，而测试的数据是x_test和y_test。

当您处理较大的数据集时，通常将训练或测试大小作为比率传递更方便。test_size=0.4意味着大约 40% 的样本将分配给测试数据，其余 60% 将分配给训练数据。

最后，您可以使用训练集 ( x_trainand y_train) 拟合模型和测试集 ( x_testand y_test) 以对模型进行无偏评估。在此示例中，您将应用三种众所周知的回归算法来创建适合您的数据的模型：

1. 线性回归 LinearRegression()
2. 梯度推进与GradientBoostingRegressor()
3. 随机森林带RandomForestRegressor()

该过程与前面的示例几乎相同：

1. 导入您需要的类。
2. 使用这些类创建模型实例。
3. .fit()使用训练集拟合模型实例。
4. .score()使用测试集评估模型。

以下是针对所有三种回归算法执行上述步骤的代码：

>>> from sklearn.linear_model import LinearRegression
>>> model = LinearRegression().fit(x_train, y_train)
>>> model.score(x_train, y_train)
0.7668160223286261
>>> model.score(x_test, y_test)
0.6882607142538016

>>> from sklearn.ensemble import GradientBoostingRegressor
>>> model = GradientBoostingRegressor(random_state=0).fit(x_train, y_train)
>>> model.score(x_train, y_train)
0.9859065238883613
>>> model.score(x_test, y_test)
0.8530127436482149

>>> from sklearn.ensemble import RandomForestRegressor
>>> model = RandomForestRegressor(random_state=0).fit(x_train, y_train)
>>> model.score(x_train, y_train)
0.9811695664860354
>>> model.score(x_test, y_test)
0.8325867908704008

您已经使用训练和测试数据集拟合了三个模型并评估了它们的性能。获得的准确度的度量.score()是确定系数。它可以用训练集或测试集计算。但是，正如您已经了解到的，使用测试集获得的分数代表了对性能的无偏估计。

正如文件中所提到的，您可以提供可选的参数LinearRegression()，GradientBoostingRegressor()和RandomForestRegressor()。GradientBoostingRegressor()并出于同样的原因RandomForestRegressor()使用该random_state参数train_test_split()：处理算法中的随机性并确保可重复性。

对于某些方法，您可能还需要特征缩放。在这种情况下，您应该使用训练数据拟合缩放器，并使用它们来转换测试数据。

其他验证功能

该软件包sklearn.model_selection提供了许多与模型选择和验证相关的功能，包括：

• 交叉验证
• 学习曲线
• 超参数调优

交叉验证是一组技术，它结合了预测性能的度量以获得更准确的模型估计。

广泛使用的交叉验证方法之一是k折交叉验证。在其中，您将数据集划分为k 个（通常是五个或十个）大小相同的子集或folds，然后执行k次训练和测试程序。每次，您使用不同的折叠作为测试集，所有剩余的折叠作为训练集。这提供了k个预测性能的度量，然后您可以分析它们的平均值和标准偏差。

您可以使用KFold、StratifiedKFold、LeaveOneOut和来自 的其他一些类和函数实现交叉验证sklearn.model_selection。

一个学习曲线，有时也被称为训练曲线，表演的训练和验证集的预测分数是如何依赖于训练样本的数量。您可以使用learning_curve()获取此依赖项，它可以帮助您找到训练集的最佳大小、选择超参数、比较模型等。

超参数调整，也称为超参数优化，是确定用于定义机器学习模型的最佳超参数集的过程。sklearn.model_selection为您提供了几个选项用于此目的，包括GridSearchCV，RandomizedSearchCV，validation_curve()，和其他人。拆分数据对于超参数调整也很重要。

结论

您现在知道为什么以及如何使用train_test_split()from sklearn。您已经了解到，为了对机器学习模型的预测性能进行无偏估计，您应该使用尚未用于模型拟合的数据。这就是为什么您需要将数据集拆分为训练、测试以及某些情况下的验证子集。

在本教程中，您学习了如何：

• 使用train_test_split()得到的训练和测试集
• 用参数控制子集的大小train_size和test_size
• 使用参数确定分割的随机性random_state
• 使用参数获取分层分割stratify
• 使用train_test_split()作为的一部分监督机器学习方法

您还看到，该sklearn.model_selection模块提供了其他几种模型验证工具，包括交叉验证、学习曲线和超参数调整。

如果您有任何问题或意见，请将它们放在下面的评论部分。