700字范文,内容丰富有趣,生活中的好帮手!
700字范文 > 交叉验证的缘由 原理以及四种交叉验证法(留出法 K-Fold 留一法 Bootstrap)

交叉验证的缘由 原理以及四种交叉验证法(留出法 K-Fold 留一法 Bootstrap)

时间:2021-03-07 03:09:10

相关推荐

交叉验证的缘由 原理以及四种交叉验证法(留出法 K-Fold 留一法 Bootstrap)

【机器学习】Cross-Validation(交叉验证)详解

普通情况下,就是将数据集分为训练集和测试集。 这个简单的划分方法存在两个弊端。

1.最终模型与参数的选取将极大程度依赖于你对训练集和测试集的划分方法。

2.该方法只用了部分数据进行模型的训练 交叉验证就是为解决这两个问题而生的。

[深度概念]·K-Fold 交叉验证 (Cross-Validation)的理解与应用

1.K-Fold 交叉验证概念

------在机器学习建模过程中,通行的做法通常是将数据分为训练集和测试集。测试集是与训练独立的数据,完全不参与训练,用于最终模型的评估。在训练过程中,经常会出现过拟合的问题,就是模型可以很好的匹配训练数据,却不能很好在预测训练集外的数据。如果此时就使用测试数据来调整模型参数,就相当于在训练时已知部分测试数据的信息,会影响最终评估结果的准确性。

------通常的做法是在训练数据再中分出一部分做为验证(Validation)数据,用来评估模型的训练效果。验证数据取自训练数据,但不参与训练,这样可以相对客观的评估模型对于训练集之外数据的匹配程度。

------模型在验证数据中的评估常用的是交叉验证,又称循环验证。它将原始数据(xs:“原始数据”指的是整个训练集)分成K组(K-Fold),将每个子集数据分别做一次验证集,其余的K-1组子集数据作为训练集,这样会得到K个模型。这K个模型分别在验证集中评估结果,最后的误差MSE(Mean Squared Error)加和平均就得到交叉验证误差。交叉验证有效利用了有限的数据,并且评估结果能够尽可能接近模型在测试集上的表现,可以做为模型优化的指标使用。(xs:交叉验证过程中,只涉及训练集和验证集,不涉及测试集)

机器学习面试题集 - 详解四种交叉验证方法

本内容不代表本网观点和政治立场,如有侵犯你的权益请联系我们处理。
网友评论
网友评论仅供其表达个人看法,并不表明网站立场。