机器学习7-数据集划分

举报
一颗小树x 发表于 2021/06/18 21:34:10 2021/06/18
【摘要】 机器学习中可以将数据集分为两个子集,即训练集、测试集。更好的方式是将数据集分为三个子集,即训练集、验证集、测试集。

 前言

机器学习中可以将数据集分为两个子集,即训练集、测试集。更好的方式是将数据集分为三个子集,即训练集、验证集、测试集。

 

一、划分为训练集、测试集

数据集划分为两个子集的概念:

训练集—用于训练模型;

测试集—用于测试训练后模型

比如,将数据集划分为一个训练集、一个测试集:

使用此方案时,需要确保测试集满足以下两个条件:

  • 规模足够大,可产生具有统计意义的结果。
  • 能代表整个数据集。即,挑选的测试集的特征应该与训练集的特征相同。

当测试集满足上述两个条件,通常能得到一个能够较好泛化到新数据的模型。

 

使用训练集、测试集训练模型的过程

“调整模型”是指调整模型相关的参数、超参数、模型结构,比如:学习率、添加或移除特征,或从小设计全新模型等等。

 

 

二、划分为训练集、验证集、测试集

将数据集划分为三个子集,如下图所示,可以大幅降低过拟合的发送几率:

 

使用训练集、验证集、测试集训练模型的过程

首先选择早验证集上获得最佳效果的模型。然后使用测试集再次检查该模型。

这个方法训练出来的模型通过会更好,是因为暴露给测试集的信息更少。

划分为训练集、验证集、测试集方法中,通过测试集调整模型效果,从中不断学习测试集的规律;从而使得测试集和新数据有区别,模型对测试集有些认识了,对新数据还是完全不认识的情况下预测的

 

注意

不断适应测试集和验证集会使其逐渐失去效果。适应相同数据来决定超参数设置或其它模型改进的次数越多,对于这些结果能够真正泛化到未见过的新数据的效果就越低。

建议:收集更多数据来“刷新”测试集和验证集。重新开始是一种很好的重置方式。

 

关键词

训练集(training set),数据集的子集,用于训练模型。与验证集和测试集相对。

验证集(validation set),数据集的一个子集,从训练集分离而来,用于调整超参数。与训练集和测试集相对。

测试集(test set),数据集的子集,用于在模型经过验证集的初步验证后,进行测试模型。与训练集和验证集相对。

过拟合(overfitting),创建的模型与训练数据过于匹配,以至于模型无法根据新数据做出正确的预测。

 

参考:https://developers.google.cn/machine-learning/crash-course/training-and-test-sets/splitting-data

参考:https://developers.google.cn/machine-learning/crash-course/validation/another-partition

【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。