IT评测·应用市场-qidao123.com

标题: 掌握呆板学习数据集划分 [打印本页]
作者: 莱莱    时间: 2025-3-24 10:35
标题: 掌握呆板学习数据集划分
在呆板学习的流程中，数据集的合理划分是模型练习与评估的关键前提。
恰当的划分方式不但能有效利用数据资源，还能确保模型评估效果的可靠性，为模型的泛化本事提供有力保障。
本文将深入介绍3种常见的数据集划分方法：留出法、交叉验证法和自助法，并配以scikit-learn的代码示例来说明如何使用这些方法。
1. 概述

在呆板学习算法中，我们通常将原始数据集划分为两个部分：
数据集划分时需根据具体的数据量、任务目标和模型特性综合考量，
以确定每种数据集的数据量和数据种类。
2. 数据集划分方法

2.1. 留出法（Hold-out）

留出法是数据集划分的“基础款”，其利用简便明了。
具体而言，就是将整个数据集随机拆分为两个互不相交的子集：测试集和练习集。
通常环境下，测试集所占比例较小，例如常见的 20% 或 30%，而剩余的大部分数据则构成练习集，用于模型的练习过程。
这种划分方式的优势在于简单高效，只需一次划分即可完成数据集的分配。
下面的代码通过使用train_test_split函数演示如何划分数据集。
  1. from sklearn.model_selection import train_test_split
  2. from sklearn.datasets import load_iris
  4. # 加载数据集
  5. iris = load_iris()
  6. X, y = iris.data, iris.target
  8. # 使用留出法划分数据集，测试集占20%
  9. X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)
  11. print("训练集特征形状：", X_train.shape)
  12. print("测试集特征形状：", X_test.shape)
  13. print("训练集标签形状：", y_train.shape)
  14. print("测试集标签形状：", y_test.shape)
  16. # 输出结果：
  17. '''
  18. 训练集特征形状： (120, 4)
  19. 测试集特征形状： (30, 4)
  20. 训练集标签形状： (120,)
  21. 测试集标签形状： (30,)
  22. '''
复制代码
留出法适用于数据量相对充足且盼望快速得到模型初步评估效果的场景。
比如在探索性数据分析阶段，大概当数据集规模较大时，通过留出法可以高效地完成模型练习与初步性能评估，帮助我们快速验证模型的基本可行性，为进一步优化模型提供方向指引。
2.2. 交叉验证法（Cross-Validation）

交叉验证法堪称数据集划分的“进阶利器”，尤其在数据量有限的环境下大显身手。
它将数据集划分为 K 个巨细相近、互不重叠的子集。
接下来，模型练习与评估过程会进行 K 轮，在每一轮中，依次将此中一个子集作为测试集，其余 K-1 个子集归并作为练习集。
如此一来，每个子集都有机遇担任测试集的角色，最终综合 K 轮的评估效果，得到更为稳定、可靠的模型性能指标。
这种方法充实利用了有限的数据资源，通过多次练习与评估，有效降低了模型评估效果的方差，加强了效果的可信度。
使用scikit-learn的代码示例如下：
  1. from sklearn.model_selection import KFold
  2. from sklearn.datasets import load_digits
  3. from sklearn.ensemble import RandomForestClassifier
  4. from sklearn.metrics import accuracy_score
  6. # 加载数据集
  7. digits = load_digits()
  8. X, y = digits.data, digits.target
  10. # 初始化K折交叉验证，K=5
  11. kf = KFold(n_splits=5, shuffle=True, random_state=42)
  13. accuracies = []
  15. # 进行交叉验证
  16. for train_index, test_index in kf.split(X):
  17.     X_train, X_test = X[train_index], X[test_index]
  18.     y_train, y_test = y[train_index], y[test_index]
  20.     # 初始化并训练模型
  21.     model = RandomForestClassifier(random_state=42)
  22.     model.fit(X_train, y_train)
  24.     # 预测并计算准确率
  25.     y_pred = model.predict(X_test)
  26.     accuracies.append(accuracy_score(y_test, y_pred))
  28. print("每轮交叉验证的准确率：", accuracies)
  29. print("平均准确率：", sum(accuracies)/len(accuracies))
  31. # 输出结果：
  32. '''
  33. 每轮交叉验证的准确率： [
  34. 0.975,
  35. 0.9805555555555555,
  36. 0.9637883008356546,
  37. 0.9749303621169917,
  38. 0.9832869080779945
  39. ]
  40. 平均准确率： 0.9755122253172391
  41. '''
复制代码
当数据集规模较小，担心留出法可能导致评估效果不稳定时，交叉验证法无疑是更优的选择。
例如在一些医学图像分类任务中，由于获取数据的成本较高，数据量有限，接纳交叉验证法可以充实挖掘数据的价值，
使模型在有限的数据上得到更全面的练习与评估，提升模型的泛化本事，确保模型在现实应用中表现更佳。
2.3. 自助法（Bootstrapping）

自助法在数据集划分领域有着独特的魅力，其焦点头脑是从原始数据集中通过有放回地随机抽取样本，构建出新的练习集。
具体来说，假设原始数据集有N个样本，自助法会进行N次随机抽取，每次抽取一个样本记录后，将其放回原始数据集，使得下次抽取时该样本仍有可能被选中。
如许构建的练习集大约包含63.2%的原始样本，而剩下的未被选中的样本则构成测试集。
因为每次抽取独立，某个样本不被选中的概率为 $ (1-1/N)^N $，当 N 很大时趋近于 $ 1/e≈36.8% $，所以被选中的概率约为 63.2%。
这种划分方式使得练习集和测试集之间存在肯定的重叠，为模型评估提供了不同的视角。
  1. import numpy as np
  2. from sklearn.datasets import load_wine
  3. from sklearn.ensemble import GradientBoostingClassifier
  4. from sklearn.metrics import classification_report
  6. # 加载数据集
  7. wine = load_wine()
  8. X, y = wine.data, wine.target
  10. # 自助法采样
  11. n_samples = X.shape[0]
  12. bootstrap_indices = np.random.choice(n_samples, size=n_samples, replace=True)
  13. X_train, y_train = X[bootstrap_indices], y[bootstrap_indices]
  15. # 找出测试集样本（未被选中的样本）
  16. mask = np.zeros(n_samples, dtype=bool)
  17. mask[bootstrap_indices] = True
  18. X_test, y_test = X[~mask], y[~mask]
  20. print("训练集特征形状：", X_train.shape)
  21. print("测试集特征形状：", X_test.shape)
  23. # 训练模型并评估
  24. model = GradientBoostingClassifier(random_state=42)
  25. model.fit(X_train, y_train)
  26. y_pred = model.predict(X_test)
  28. print("分类报告：\n", classification_report(y_test, y_pred))
复制代码

自助法常用于统计模型的性能评估以及模型稳定性分析。
例如在评估模型参数的稳定性时，通过多次自助采样，可以观察模型参数在不同练习集下的变革环境，进而判断模型对数据的敏感程度。
别的，在一些集成学习算法中，自助法也被用于生成多样化的练习集，提升模型的泛化本事和鲁棒性，如随机森林算法中就接纳了自助法来构建多个决策树的练习集。
3. 总结

这三种划分数据集的方法各有优缺点和使用场景，熟练掌握这三种方法及其 scikit-learn 实现，
将使我们在呆板学习的征程中更加从容地应对各种数据挑衅，构建出性能优异、泛化本事强的模型。
它们之间的对比如下表：
方法长处缺点推荐场景留出法盘算高效效果不稳定快速验证 / 大规模数据交叉验证评估稳定盘算成本高中等数据量 / 模型调参自助法保留更多数据数据分布改变小数据集 / 特殊分布需求
免责声明：如果侵犯了您的权益，请联系站长，我们会及时删除侵权内容，谢谢合作！更多信息从访问主页：qidao123.com:ToB企服之家，中国第一个企服评测及商务社交产业平台。



欢迎光临 IT评测·应用市场-qidao123.com (https://dis.qidao123.com/) Powered by Discuz! X3.4