Словарь
Переобучение (overfitting)
Переобучение — когда модель заучила примеры вместо закономерности. Что это простыми словами, как распознать и чем лечат.
Переобучение (overfitting) — когда модель заучивает конкретные обучающие примеры вместе со случайным шумом вместо того, чтобы понять общую закономерность. Как студент, зазубривший билеты, но не тему: на знакомом блестит, на новом проваливается.
Распознаётся по разрыву: высокая точность на обучающих данных и низкая на новых (тестовых). 99% на train и 70% на test — классический признак. Именно поэтому датасет делят и проверяют на данных, которых модель не видела.
Причины — мало данных, слишком сложная модель, слишком долгое обучение. Лечат большим объёмом данных, упрощением модели, регуляризацией и ранней остановкой. Подробно — в статье «Переобучение».