提前停止

在机器学习中，提前停止（英语：early stopping）是一种在使用诸如梯度下降之类的迭代优化方法时，可对抗过拟合的正则化方法。这些迭代优化方法在每轮迭代过程中，都会使得模型更好地与训练集拟合。在某个時間點之前，更好地拟合训练集使得模型在训练集之外的数据上（驗證集）表现得更好；但在该時間點之后，更好地拟合训练集反而会增大泛化误差。提前停止规则给出停止迭代的条件，以便在模型开始过拟合之前停止迭代优化。提前停止规则已被用于多种机器学习方法。

背景

過擬合

主条目：過擬合

在訓練機器學習模型時，會使用訓練集對模型進行優化。然而在實務上，機器學習模型經常需要處理不在訓練集內的新資料，因此一個好的機器學習模型需要有足夠小的泛化誤差。過擬合指的是模型的泛化誤差過大，也就是在訓練集上表現好，但在未知資料上表現不佳的情形。